Courtesy of Wired
Bahaya Serangan AI Gemini: Rumah Pintar Bisa Dikendalikan Hacker Lewat Kalender
Mengungkap dan mendemonstrasikan risiko keamanan dari serangan prompt-injection tidak langsung pada sistem AI generatif seperti Google Gemini yang dapat memicu tindakan fisik pada perangkat pintar, dan mendorong pengembangan langkah keamanan yang lebih kuat untuk melindungi pengguna dari serangan serupa.
06 Agt 2025, 16.00 WIB
29 dibaca
Share
Ikhtisar 15 Detik
- Serangan injeksi prompt dapat memiliki konsekuensi nyata di dunia fisik melalui perangkat pintar.
- Keamanan dalam pengembangan AI generatif perlu menjadi prioritas utama untuk mencegah potensi eksploitasi.
- Penelitian ini menunjukkan bahwa serangan siber terhadap AI generatif semakin kompleks dan memerlukan perhatian lebih dari perusahaan teknologi.
Tel Aviv, Israel - Para peneliti keamanan di Tel Aviv berhasil menunjukkan cara menyerang Google Gemini, AI canggih Google, dengan menggunakan undangan Google Calendar yang berisi instruksi tersembunyi. Akibatnya, perangkat rumah pintar seperti lampu dan jendela bisa dikendalikan tanpa izin pengguna.
Serangan ini termasuk jenis yang disebut prompt-injection tidak langsung, di mana AI dipancing untuk melakukan tindakan berbahaya berdasarkan pesan tersembunyi dalam teks yang diminta untuk diproses. Ini sangat berbahaya karena pengguna tidak menyadari ada instruksi jahat di balik layar.
Google menanggapi penemuan ini dengan serius dan telah melakukan perbaikan keamanan, termasuk menambah lapisan konfirmasi pengguna dan sistem deteksi otomatis untuk mencegah AI disalahgunakan dengan cara seperti ini.
Peneliti menyatakan bahwa dengan semakin banyaknya AI yang terhubung ke perangkat fisik dan kendaraan otonom, keamanan AI harus menjadi fokus utama agar tidak terjadi kecelakaan atau kerugian fisik akibat serangan seperti ini.
Meski serangan ini masih jarang terjadi di dunia nyata, penelitian ini menjadi peringatan penting bahwa pengembangan AI harus diawasi ketat dengan standar keamanan tinggi sebelum digunakan luas dalam kehidupan sehari-hari.
--------------------
Analisis Kami: Serangan ini membuka babak baru dalam risiko keamanan AI yang tidak hanya mengancam data digital tapi juga keselamatan fisik pengguna. Perusahaan teknologi perlu segera mengutamakan pendekatan keamanan AI yang menyeluruh dan tidak hanya fokus pada fungsi, agar integrasi AI dengan perangkat fisik bisa berjalan aman dan bertanggung jawab.
--------------------
Analisis Ahli:
Ben Nassi: LLM yang terintegrasi dengan perangkat fisik membutuhkan pengetahuan mendalam tentang keamanan karena dampak langsungnya bisa membahayakan keselamatan, bukan hanya privasi.
Andy Wen: Perlindungan berlapis dan keterlibatan pengguna dalam tindakan otomatis sangat penting untuk mencegah penyalahgunaan AI melalui prompt-injection.
--------------------
What's Next: Dalam waktu dekat, serangan prompt-injection pada AI yang terintegrasi dengan perangkat fisik kemungkinan akan semakin canggih dan marak terjadi, sehingga penguatan sistem keamanan dan kontrol manual dari pengguna akan menjadi sangat penting untuk mencegah konsekuensi berbahaya di dunia nyata.
Referensi:
[1] https://wired.com/story/google-gemini-calendar-invite-hijack-smart-home/
[1] https://wired.com/story/google-gemini-calendar-invite-hijack-smart-home/
Pertanyaan Terkait
Q
Apa yang terjadi pada perangkat pintar di apartemen Tel Aviv?A
Perangkat pintar di apartemen Tel Aviv mulai beroperasi tanpa perintah dari penghuninya, menunjukkan adanya serangan siber.Q
Bagaimana serangan terhadap AI Gemini dimulai?A
Serangan dimulai dengan undangan Google Calendar yang telah terinfeksi, yang berisi instruksi untuk mengendalikan perangkat pintar.Q
Apa itu injeksi prompt dan mengapa penting?A
Injeksi prompt adalah metode untuk mengecoh AI agar melakukan tindakan yang tidak diinginkan, dan ini merupakan masalah serius dalam keamanan AI.Q
Apa langkah-langkah yang diambil oleh Google setelah menemukan kerentanan?A
Google mengambil langkah-langkah untuk memperbaiki kerentanan dan memperkenalkan pertahanan baru terhadap serangan injeksi prompt.Q
Apa dampak dari serangan ini pada keamanan AI di masa depan?A
Dampak serangan ini menunjukkan pentingnya keamanan AI, terutama ketika AI diintegrasikan dengan perangkat fisik yang dapat mempengaruhi keselamatan.Artikel Serupa
Teknologi
6 bulan lalu
181 dibaca
Peretas Membajak AI: Google Peringatkan Penyalahgunaan Gemini oleh Penjahat Siber
Teknologi
6 bulan lalu
119 dibaca
Pembaruan Gmail Google—Jangan Biarkan Akun Anda Berisiko
Teknologi
6 bulan lalu
102 dibaca
Pengaman Keamanan DeepSeek Gagal dalam Setiap Uji Coba yang Dilakukan Peneliti terhadap Chatbot AI-nya
Teknologi
6 bulan lalu
154 dibaca
Serangan Keamanan AI Gemini—Bot Peretasan Tim Merah Diterapkan oleh Google
Teknologi
7 bulan lalu
184 dibaca
Ancaman Keamanan Gmail yang Berbahaya Dikonfirmasi, Namun Google Tidak Akan Memperbaikinya
Teknologi
7 bulan lalu
203 dibaca