Courtesy of Wired

Bahaya Tersembunyi Konektor OpenAI: Bagaimana AI Bisa Curangi Data Anda

Mengungkap kerentanan keamanan pada sistem OpenAI Connectors yang memungkinkan ekstraksi data sensitif melalui teknik prompt injection tersembunyi, sehingga mendorong pentingnya pengamanan lebih ketat pada AI yang terhubung dengan data pribadi agar pengguna dan perusahaan terlindungi dari serangan siber.

07 Agt 2025, 06.30 WIB

39 dibaca

Ikhtisar 15 Detik

Serangan injeksi prompt merupakan ancaman serius bagi keamanan data yang dihubungkan dengan AI.
Pentingnya pengembangan perlindungan yang kuat terhadap serangan ini dalam sistem AI generatif.
Kerentanan dalam sistem yang terhubung dapat memperbesar risiko pencurian data sensitif.

Las Vegas, Amerika Serikat - Generative AI seperti ChatGPT kini bisa terhubung ke data pribadi pengguna dari berbagai layanan seperti Gmail, Google Drive, dan kalender Microsoft, memberikan jawaban yang lebih personal dan relevan. Namun, inovasi ini juga menimbulkan risiko keamanan yang besar karena membuka jalan bagi hacker mencuri informasi sensitif.

Peneliti keamanan Michael Bargury dan Tamir Ishay Sharbat mengekspos kerentanan pada OpenAI Connectors yang dapat diretas menggunakan teknik prompt injection tidak langsung melalui dokumen berisi instruksi tersembunyi di Google Drive. Dengan metode ini, hacker bisa mengambil data penting seperti API key tanpa perlu interaksi dari pengguna.

Serangan tersebut terjadi dengan mengirim dokumen yang tampak resmi tapi menyimpan prompt jahat dalam teks kecil berwarna putih yang tidak terlihat oleh manusia tapi terbaca oleh AI. Ketika pengguna memanggil AI untuk meringkas dokumen, instruksi tersembunyi memaksa AI untuk mencari dan mencuri kunci rahasia, kemudian mengirimkannya ke server hacker.

OpenAI telah merespon peringatan ini dengan memasang perlindungan agar teknik serangan sulit dilakukan, namun para ahli memperingatkan bahwa koneksi AI ke sistem eksternal memang memperbesar risiko munculnya serangan baru. Google juga menegaskan pentingnya pengamanan AI karena masalah ini tidak spesifik pada satu platform saja.

Kasus ini adalah pengingat bahwa meski AI membawa kemudahan dan kekuatan baru, risiko dan tantangan keamanan juga ikut bertambah. Perusahaan dan pengguna harus waspada dan terus mengembangkan mekanisme pertahanan agar data tetap aman dari penyalahgunaan teknologi AI.

--------------------

Analisis Kami: Menghubungkan AI generatif ke data pengguna memang meningkatkan performa dan personalisasi, tapi secara simultan memperluas area serangan yang sebelumnya tidak ada. Perusahaan harus mengambil langkah tegas dalam membangun sistem pengamanan yang tidak hanya mencegah tapi juga mendeteksi ancaman secara real-time agar tidak terjadi kebocoran besar.

--------------------

Analisis Ahli:

Michael Bargury: Pendekatan zero-click dalam mengambil data lewat dokumen berisi prompt tersembunyi menunjukkan bahwa solusi keamanan tradisional tidak cukup efektif dalam menghadapi ancaman AI modern.

Andy Wen: Kerentanan ini menegaskan pentingnya pengembangan alat keamanan AI yang lebih kuat serta penerapan edukasi bagi organisasi agar bisa memahami risiko baru akibat koneksi AI ke data eksternal.

--------------------

What's Next: Ke depan, serangan berbasis prompt injection akan semakin canggih dan umum, memaksa penyedia layanan AI dan perusahaan teknologi untuk memperkuat perlindungan data dan mekanisme deteksi serangan secara proaktif.

Referensi:
[1] https://wired.com/story/poisoned-document-could-leak-secret-data-chatgpt/

Pertanyaan Terkait

Apa itu serangan injeksi prompt yang disebut AgentFlayer?

Serangan injeksi prompt yang disebut AgentFlayer adalah teknik yang digunakan untuk mengekstrak data sensitif dari akun Google Drive dengan menggunakan dokumen beracun.

Bagaimana cara kerja serangan AgentFlayer?

Serangan AgentFlayer bekerja dengan menyisipkan prompt jahat ke dalam dokumen yang tampak resmi, yang kemudian digunakan oleh ChatGPT untuk mengekstrak API keys dari Google Drive.

Apa yang dilakukan OpenAI untuk mengatasi kerentanan ini?

OpenAI telah memperkenalkan mitigasi untuk mencegah teknik yang digunakan dalam serangan ini setelah laporan dari peneliti.

Mengapa menghubungkan AI dengan sistem eksternal meningkatkan risiko keamanan?

Menghubungkan AI dengan sistem eksternal meningkatkan risiko keamanan karena dapat memungkinkan penyerang untuk menyisipkan data tidak terpercaya ke dalam sistem.

Siapa yang memperkenalkan temuan ini dan di mana?

Temuan ini diperkenalkan oleh Michael Bargury dan Tamir Ishay Sharbat di konferensi Black Hat.