Courtesy of TechCrunch
DeepSeek Chatbot Kini Dituduh Sensor Topik Sensitif Secara Berlebihan
29 Jan 2025, 18.51 WIB
142 dibaca
Share
DeepSeek adalah chatbot AI yang sangat populer dan telah mengalahkan banyak aplikasi lain di pasar. Chatbot ini merupakan bagian dari hedge fund asal China, High-Flyer, dan menawarkan kinerja yang mengesankan dibandingkan dengan pesaing seperti OpenAI. Namun, DeepSeek tidak mau membahas topik-topik sensitif seperti protes Tiananmen dan Taiwan. Sebuah laporan menunjukkan bahwa DeepSeek menolak untuk menjawab sekitar 85% dari 1.360 pertanyaan tentang topik sensitif, dan sering memberikan jawaban yang terdengar sangat nasionalis.
Baca juga: Model AI DeepSeek R1-0528 Punya Kemampuan Hebat Tapi Sensor Topik Sensitif Cina Makin Ketat
Peneliti juga menemukan bahwa DeepSeek dapat dengan mudah dibobol, yang menunjukkan bahwa ada sensor yang diterapkan oleh pemerintah China dengan cara yang kasar. Hal ini menunjukkan bahwa meskipun DeepSeek memiliki kemampuan yang baik, ada batasan dalam hal kebebasan berbicara dan informasi yang dapat diakses oleh pengguna. Data lengkap tentang pertanyaan sensitif ini dapat ditemukan di Hugging Face.
--------------------
Analisis Kami: Penerapan sensor kasar dari DeepSeek jelas mencerminkan upaya pengendalian informasi oleh pemerintah China yang bertujuan melindungi narasi resmi, namun hal ini mengorbankan kualitas dan kebebasan dialog AI. Ke depannya, tuntutan agar AI dapat beroperasi tanpa sensor berat seperti ini akan tumbuh, apalagi jika pasar global terus menuntut transparansi dan objektivitas teknologi.
--------------------
Analisis Ahli:
Yoshua Bengio: Sensor yang ekstrem pada AI seperti DeepSeek justru menghambat kemajuan pembelajaran mesin secara global dan berpotensi memicu resistensi dari komunitas internasional terhadap AI yang dikembangkan di China.
--------------------
What's Next: Dalam waktu dekat, akan semakin banyak upaya untuk mengeksploitasi kelemahan sensor DeepSeek, yang dapat memicu diskusi global tentang etika penggunaan AI dan sensor internet dari pemerintah otoriter.
Referensi:
[1] https://techcrunch.com/2025/01/29/deepseeks-ai-avoids-answering-85-of-prompts-on-sensitive-topics-related-to-china/
[1] https://techcrunch.com/2025/01/29/deepseeks-ai-avoids-answering-85-of-prompts-on-sensitive-topics-related-to-china/
Pertanyaan Terkait
Q
Apa itu DeepSeek?A
DeepSeek adalah chatbot AI yang populer yang dikembangkan oleh hedge fund China High-Flyer.Q
Siapa yang mengembangkan DeepSeek?A
DeepSeek dikembangkan oleh High-Flyer, sebuah hedge fund asal China.Q
Mengapa DeepSeek menjadi topik kontroversial?A
DeepSeek menjadi kontroversial karena menolak untuk membahas topik sensitif seperti protes Tiananmen dan Taiwan.Q
Apa yang ditemukan oleh PromptFoo tentang DeepSeek?A
PromptFoo menemukan bahwa model pemikiran DeepSeek menolak untuk menjawab 85% dari 1.360 permintaan topik sensitif.Q
Apa saja topik sensitif yang dihindari oleh DeepSeek?A
Topik sensitif yang dihindari oleh DeepSeek termasuk protes Tiananmen dan isu Taiwan.Artikel Serupa
Teknologi
6 bulan lalu
79 dibaca
Model AI DeepSeek Mudah Diretas, Berisiko Hasilkan Konten Berbahaya
Teknologi
6 bulan lalu
276 dibaca
DeepSeek R1: Asisten AI Populer Tapi Berisiko Besar untuk Privasi dan Sensor
Teknologi
6 bulan lalu
248 dibaca
Chatbot DeepSeek R1 Gagal Tes Keamanan Meski Biaya Pelatihan Sangat Murah
Teknologi
6 bulan lalu
222 dibaca
Serangan Siber Terbesar Terhadap DeepSeek Memicu Ketegangan AI China-AS
Teknologi
6 bulan lalu
371 dibaca
DeepSeek, AI China yang Mengguncang Pasar dan Persaingan Global
Teknologi
6 bulan lalu
259 dibaca