Courtesy of InterestingEngineering
Chatbot DeepSeek R1 Gagal Tes Keamanan Meski Biaya Pelatihan Sangat Murah
02 Feb 2025, 15.17 WIB
248 dibaca
Share
DeepSeek R1 adalah chatbot baru dari sebuah startup China yang menarik perhatian karena kemampuannya dalam tugas-tugas pemecahan masalah dengan biaya yang jauh lebih rendah dibandingkan pesaing besar seperti OpenAI dan Meta. Namun, sebuah penelitian yang dilakukan oleh Cisco dan Universitas Pennsylvania menunjukkan bahwa DeepSeek R1 gagal dalam uji keamanan, dengan tingkat keberhasilan serangan 100%. Ini berarti chatbot tersebut tidak dapat mendeteksi dan memblokir prompt berbahaya sama sekali, yang membuatnya sangat rentan terhadap penyalahgunaan.
Meskipun DeepSeek R1 memiliki metode pelatihan yang efisien, penelitian menunjukkan bahwa hal ini mungkin mengorbankan mekanisme keselamatan yang penting. Selain itu, ada kontroversi mengenai biaya pengembangan DeepSeek R1 yang sebenarnya jauh lebih tinggi dari yang diklaim, serta tuduhan pencurian data dari OpenAI. Penelitian ini menekankan pentingnya menjaga keseimbangan antara efisiensi dan keamanan dalam pengembangan teknologi AI.
--------------------
Analisis Kami: Performa tinggi dengan biaya rendah memang menarik, tapi pengurangan signifikan pada protokol keamanan merupakan kesalahan fatal yang bisa membahayakan pengguna dan ekosistem AI secara luas. Fokus hanya pada efisiensi tanpa memperkuat pengamanan menunjukkan pendekatan yang terlalu terburu-buru dan berisiko bagi pengembangan teknologi AI yang bertanggung jawab.
--------------------
Analisis Ahli:
Andrew Ng: Efisiensi memang penting dalam pengembangan model AI, tapi keamanan dan etika tidak bisa dikorbankan karena dampaknya bisa luas dan merusak kepercayaan pengguna.
Fei-Fei Li: Pengujian mendalam dan protokol keselamatan adalah pondasi utama untuk penerapan AI yang aman di masyarakat, tidak hanya performa dan biaya.
--------------------
What's Next: DeepSeek kemungkinan akan menghadapi tekanan regulasi lebih ketat dan perlu memperbaiki mekanisme keamanan untuk tetap kompetitif, sementara kontroversi terkait pelanggaran data semakin memperburuk reputasinya.
Referensi:
[1] https://interestingengineering.com/innovation/deepseek-fail-not-block-harmful-prompt
[1] https://interestingengineering.com/innovation/deepseek-fail-not-block-harmful-prompt
Pertanyaan Terkait
Q
Apa yang terjadi dengan chatbot DeepSeek R1?A
Chatbot DeepSeek R1 gagal dalam uji keamanan dan menunjukkan tingkat keberhasilan serangan 100%.Q
Siapa yang melakukan uji coba keamanan terhadap DeepSeek R1?A
Uji coba keamanan dilakukan oleh tim peneliti dari Cisco bekerja sama dengan Universitas Pennsylvania.Q
Apa hasil dari uji coba keamanan DeepSeek R1?A
Hasil uji coba menunjukkan bahwa DeepSeek R1 tidak dapat memblokir satu pun prompt berbahaya.Q
Mengapa DeepSeek R1 menjadi kontroversial?A
DeepSeek R1 menjadi kontroversial karena klaim biaya pelatihan yang rendah dan tuduhan pencurian data oleh OpenAI.Q
Apa yang dikatakan OpenAI tentang DeepSeek?A
OpenAI menuduh DeepSeek telah menggunakan output model mereka untuk melatih chatbot yang bersaing.Artikel Serupa
Teknologi
6 bulan lalu
111 dibaca
DeepSeek Model AI Murah Rentan Terhadap Serangan Jailbreak 100 Persen
Teknologi
6 bulan lalu
130 dibaca
Kerentanan Keamanan DeepSeek: Ancaman Baru AI dari China yang Perlu Diwaspadai
Teknologi
6 bulan lalu
266 dibaca
Kontroversi OpenAI vs DeepSeek: Tuduhan Pelanggaran Data AI dan Tantangannya
Teknologi
6 bulan lalu
144 dibaca
DeepSeek Chatbot Kini Dituduh Sensor Topik Sensitif Secara Berlebihan
Teknologi
6 bulan lalu
371 dibaca
DeepSeek, AI China yang Mengguncang Pasar dan Persaingan Global
Teknologi
6 bulan lalu
226 dibaca