Courtesy of Wired
Rangkuman Berita: Prompt ini dapat membuat chatbot AI mengidentifikasi dan mengekstrak detail pribadi dari obrolan Anda.
Share
Penelitian terbaru dari sekelompok peneliti di Universitas California, San Diego, dan Nanyang Technological University di Singapura mengungkapkan adanya serangan baru yang disebut "Imprompter". Serangan ini dapat memanipulasi chatbot untuk mengumpulkan informasi pribadi pengguna, seperti nama, alamat, dan nomor kartu pembayaran, tanpa sepengetahuan mereka. Dengan menggunakan algoritma, peneliti dapat mengubah perintah yang tampaknya acak menjadi instruksi tersembunyi yang membuat chatbot mengirimkan informasi tersebut kepada peretas.
Serangan ini menunjukkan risiko besar bagi pengguna yang berbagi informasi pribadi saat berbicara dengan chatbot. Meskipun beberapa perusahaan, seperti Mistral AI, telah memperbaiki kerentanan ini, penting bagi pengguna untuk berhati-hati dalam memberikan informasi pribadi dan memahami risiko yang terkait dengan penggunaan aplikasi AI. Peneliti juga mengingatkan bahwa semakin banyak orang menggunakan chatbot untuk melakukan tugas, semakin besar kemungkinan serangan semacam ini terjadi.
Rangkuman Berita Serupa
Teknologi
2 bulan lalu
79 dibaca
Lebih Banyak Jailbreak ChatGPT Menghindari Pengamanan pada Topik Sensitif
Teknologi
3 bulan lalu
41 dibaca
Pengaman Keamanan DeepSeek Gagal dalam Setiap Uji Coba yang Dilakukan Peneliti terhadap Chatbot AI-nya
Teknologi
3 bulan lalu
127 dibaca
Memperkenalkan GhostGPT—AI Kejahatan Siber Baru yang Digunakan oleh Peretas
Teknologi
3 bulan lalu
77 dibaca
Ancaman Keamanan Gmail yang Berbahaya Dikonfirmasi, Namun Google Tidak Akan Memperbaikinya
Teknologi
3 bulan lalu
96 dibaca
Ancaman Keamanan Gmail Dikonfirmasi—Google Tidak Akan Memperbaikinya, Ini Alasannya
Teknologi
4 bulan lalu
137 dibaca
Peringatan Keamanan Gmail Baru yang Mendesak untuk Miliaran Pengguna Saat Serangan Terus Berlanjut
Teknologi
4 bulan lalu
148 dibaca