Courtesy of TechCrunch

DeepSeek Ternyata Sensor Konten Sensitif Meski Dijalankan Secara Lokal

04 Feb 2025, 04.52 WIB

81 dibaca

Ada anggapan bahwa sensor yang diterapkan oleh DeepSeek hanya terjadi di aplikasi dan bisa hilang jika dijalankan secara lokal di komputer. Namun, penyelidikan oleh Wired menunjukkan bahwa sensor ini sudah ada sejak awal, baik di tingkat aplikasi maupun pelatihan model AI-nya. Misalnya, versi DeepSeek yang dijalankan secara lokal menunjukkan bahwa model tersebut diinstruksikan untuk "menghindari menyebutkan" peristiwa seperti Revolusi Kebudayaan dan hanya fokus pada aspek positif Partai Komunis Tiongkok.

Pemeriksaan oleh TechCrunch juga menunjukkan adanya sensor yang jelas pada versi lokal DeepSeek. Ketika ditanya tentang penembakan di Kent State, DeepSeek memberikan jawaban, tetapi ketika ditanya tentang peristiwa di Tiananmen Square pada tahun 1989, ia menjawab "Saya tidak bisa menjawab." Ini menunjukkan bahwa sensor DeepSeek tidak hanya terbatas pada aplikasi, tetapi juga ada dalam model yang dijalankan secara lokal.

Referensi:
[1] https://techcrunch.com/2025/02/03/no-deepseek-isnt-uncensored-if-you-run-it-locally/

Analisis Kami

"Sensor tertanam dalam model AI mengindikasikan upaya kontrol konten yang sangat ketat dan terencana sejak tahap pembentukan model, bukan hanya pembatasan permukaan melalui aplikasi. Hal ini mengkhawatirkan karena mengurangi kebebasan berbicara serta mempengaruhi objektivitas informasi yang diberikan oleh AI."

Analisis Ahli

timnit gebru

"Sensor internal di model AI mencerminkan tantangan besar dalam etika AI, karena ini menghalangi representasi fakta dan menimbulkan bias yang sulit dideteksi pengguna."

andrej karpathy

"Sensor yang tertanam di tingkat pelatihan menunjukkan bahwa pembuat model mengontrol narasi, namun hal ini juga menimbulkan risiko kalau model tidak bisa diandalkan untuk memberikan informasi yang komprehensif."

Prediksi Kami

Sensor yang tertanam dalam model AI seperti DeepSeek akan memicu debat etika dan kebutuhan akan transparansi serta alternatif model AI yang lebih bebas dalam membahas isu-isu sensitif.