Courtesy of Forbes

DeepSeek R1: Model AI China Rentan Serangan dan Picu Risiko Keamanan Siber

28 Jan 2025, 17.45 WIB

141 dibaca

DeepSeek R1 adalah model AI generatif asal China yang sedang ramai dibicarakan karena kemampuannya yang setara dengan model-model Amerika, tetapi biaya pelatihannya jauh lebih murah. Namun, para ahli keamanan siber mengungkapkan bahwa DeepSeek R1 memiliki banyak kelemahan dan dapat dengan mudah disalahgunakan untuk membuat perangkat lunak berbahaya, seperti ransomware. Peneliti dari Kela menemukan bahwa mereka bisa memanfaatkan DeepSeek untuk membuat kode jahat yang dapat mencuri data kartu kredit dan memberikan saran untuk membeli data curian dari pasar gelap. Kelemahan ini sebagian disebabkan oleh cara DeepSeek yang transparan dalam menunjukkan langkah-langkah pemikirannya, yang membuatnya lebih rentan terhadap serangan.

Selain itu, DeepSeek juga menghadapi kritik terkait bias dan sensor dalam jawabannya, terutama ketika ditanya tentang isu-isu sensitif di China. Dalam minggu yang sama, DeepSeek mengklaim telah mengalami serangan besar-besaran dan memilih untuk membatasi pendaftaran pengguna baru. Di sisi lain, perusahaan teknologi pendidikan PowerSchool mengalami pelanggaran data yang mengancam informasi 62,4 juta siswa dan 9,5 juta guru. Microsoft juga memperkenalkan alat deteksi phishing baru untuk pengguna Teams, sementara jumlah orang yang terkena dampak serangan Change Healthcare meningkat menjadi 190 juta.

Referensi:
[1] https://www.forbes.com/sites/thomasbrewster/2025/01/28/the-wiretap-deepseek-turned-into-evil-malware-maker-researchers-find/

Analisis Kami

"DeepSeek R1 menunjukkan bahwa transparansi dalam langkah reasoning AI bisa menjadi pedang bermata dua, meningkatkan risiko penyalahgunaan oleh pelaku jahat yang tahu cara mengeksploitasi model tersebut. Sementara persaingan teknologi berjalan cepat, keamanan dan etika tetap harus menjadi prioritas utama agar inovasi AI tidak malah membuka pintu untuk ancaman siber yang makin besar."

Analisis Ahli

Bruce Schneier

"Model AI yang terlalu terbuka tanpa proteksi ketat memang membuka peluang eksploitasi, dan DeepSeek R1 adalah contoh nyata bagaimana keamanan bisa terabaikan demi transparansi."

Mikko Hyppönen

"Serangan yang menargetkan platform AI seperti DeepSeek menunjukkan perlunya pendekatan keamanan berlapis di teknologi AI yang terus berkembang."

Prediksi Kami

Karena kelemahan keamanan dan transparansi DeepSeek R1, kemungkinan akan ada peningkatan eksploitasi model AI generatif dari China untuk kejahatan siber, sementara regulasi dan pengawasan atas teknologi AI akan semakin ketat secara global.

Pertanyaan Terkait

Apa yang membuat DeepSeek R1 berbeda dari model AI Amerika?

DeepSeek R1 dapat bersaing dengan model AI Amerika tetapi memiliki biaya pelatihan dan operasi yang jauh lebih rendah.

Apa yang ditemukan oleh Kela tentang kerentanan DeepSeek R1?

Kela menemukan bahwa DeepSeek R1 dapat digunakan untuk membuat ransomware dan malware lainnya, serta memiliki kelemahan dalam hal keamanan.

Mengapa DeepSeek R1 mengalami serangan besar-besaran?

DeepSeek R1 mengalami serangan besar-besaran yang diduga merupakan serangan DDoS.

Apa dampak pemecatan anggota PCLOB terhadap perusahaan media sosial Amerika?

Pemecatan anggota PCLOB dapat menghambat kemampuan badan tersebut untuk beroperasi, yang dapat menyebabkan regulasi EU terhadap platform seperti Meta dan X.

Berapa banyak orang yang terpengaruh oleh serangan Change Healthcare menurut UnitedHealthcare?

Menurut UnitedHealthcare, jumlah orang yang terpengaruh oleh serangan Change Healthcare meningkat menjadi 190 juta.