Courtesy of Axios

Kerentanan Keamanan DeepSeek: Ancaman Baru AI dari China yang Perlu Diwaspadai

31 Jan 2025, 19.59 WIB

129 dibaca

Minggu ini, laporan penelitian keamanan menunjukkan bahwa model AI open-source dari DeepSeek, sebuah perusahaan AI yang berbasis di China, mungkin lebih rentan terhadap serangan siber daripada yang diperkirakan sebelumnya. Peneliti dari Wiz menemukan database DeepSeek yang terbuka, yang mengungkapkan riwayat obrolan, kunci rahasia, dan informasi sensitif lainnya secara online. Selain itu, peneliti dari Palo Alto Networks menemukan bahwa mereka dapat dengan mudah memaksa model R1 DeepSeek untuk memberikan tips tentang cara menulis kode berbahaya dan melakukan serangan phishing. Penelitian juga menunjukkan bahwa model R1 DeepSeek lebih mungkin menghasilkan malware dibandingkan dengan model dari OpenAI.

Kekhawatiran terhadap keamanan DeepSeek meningkat setelah peluncuran model R1, yang dianggap mampu bersaing dengan OpenAI dengan biaya yang lebih rendah. Peneliti menemukan bahwa DeepSeek sangat rentan terhadap teknik jailbreaking, yang memungkinkan hacker untuk mengelabui model AI agar menghasilkan konten berbahaya. Meskipun model AI lain seperti ChatGPT lebih sulit untuk dibobol, temuan ini menunjukkan pentingnya perusahaan untuk melakukan pemeriksaan keamanan yang ketat sebelum merilis teknologi baru. Keamanan AI harus terus berkembang seiring dengan inovasi, bukan menjadi hal yang dipikirkan belakangan.

--------------------

Analisis Kami: DeepSeek tampaknya terlalu terburu-buru dalam merilis model AI tanpa memprioritaskan aspek keamanan siber secara memadai, menciptakan risiko besar bagi pengguna dan infrastruktur teknologi. Tanpa perbaikan signifikan dan pengawasan berkala, model semacam ini bisa menjadi pintu gerbang serius untuk serangan siber dan penyebaran informasi berbahaya.

--------------------

Analisis Ahli:

Sahil Agarwal: AI safety harus berjalan seiring dengan inovasi, dan guardrails yang kuat serta monitoring berkelanjutan penting untuk mencegah penyalahgunaan berbahaya.

--------------------

What's Next: Tekanan dan pengawasan terhadap penggunaan aplikasi AI dari DeepSeek akan meningkat, mungkin berujung pada regulasi ketat atau pembatasan penggunaan di Amerika Serikat karena masalah keamanan dan potensi penyalahgunaan.

Referensi:
[1] https://www.axios.com/2025/01/31/deepseek-ai-model-cybersecurity-flaws-research

Pertanyaan Terkait

Apa yang ditemukan oleh peneliti dari Wiz terkait DeepSeek?

Peneliti dari Wiz menemukan database DeepSeek yang terpapar, yang mengandung informasi sensitif seperti riwayat obrolan dan kunci rahasia.

Mengapa model R1 DeepSeek menjadi perhatian di AS?

Model R1 DeepSeek menarik perhatian karena kemampuannya yang sebanding dengan OpenAI dengan biaya yang lebih rendah, memicu kekhawatiran tentang privasi data.

Apa yang dilakukan peneliti dari Palo Alto Networks terhadap model R1?

Peneliti dari Palo Alto Networks menggunakan teknik jailbreaking untuk mendapatkan model R1 DeepSeek membantu mereka membuat email phishing dan menulis malware.

Apa yang diungkapkan oleh Enkrypt AI tentang kerentanan DeepSeek?

Enkrypt AI mengungkapkan bahwa DeepSeek sangat rentan terhadap injeksi prompt, di mana peretas dapat memanipulasi permintaan untuk menghasilkan konten berbahaya.

Apa yang dikatakan Sahil Agarwal tentang keselamatan AI?

Sahil Agarwal menekankan pentingnya perlindungan yang kuat dan pemantauan berkelanjutan untuk mencegah penyalahgunaan model AI.