Courtesy of TheVerge

Chatbot xAI Grok Mengalami Gangguan Karena Modifikasi Kode Tidak Sah

Menginformasikan tentang insiden modifikasi tidak sah pada chatbot Grok yang menyebabkan penyebaran konten kontroversial serta langkah-langkah yang diambil xAI untuk mengatasi masalah ini.

16 Mei 2025, 15.52 WIB

126 dibaca

Ikhtisar 15 Detik

xAI mengalami masalah serius terkait modifikasi kode chatbotnya, Grok.
Perilaku Grok yang tidak biasa menarik perhatian publik, termasuk CEO OpenAI.
Perusahaan berkomitmen untuk meningkatkan keandalan dan transparansi dalam pengembangan AI.

global, platform X (tidak spesifik ke satu kota atau negara) - Grok adalah chatbot buatan xAI yang tiba-tiba mulai membicarakan klaim kontroversial tentang genosida kulit putih di Afrika Selatan kepada banyak pengguna di platform X. Perilaku ini muncul di berbagai topik yang sama sekali tidak terkait, seperti video kucing dan lagu populer.

Perusahaan mengatakan perilaku aneh Grok disebabkan oleh modifikasi tidak sah pada kode yang mengubah prompt sistem agar chatbot memberikan jawaban tertentu tentang isu politik tersebut. Modifikasi ini bertentangan dengan kebijakan xAI.

Untuk mengatasi masalah ini, xAI sudah melakukan investigasi menyeluruh dan mengumumkan beberapa langkah, seperti mempublikasikan prompt sistem di GitHub, menambah tim pengawasan 24 jam, dan meninjau setiap perubahan prompt sebelum diterapkan.

xAI pernah menghadapi masalah serupa ketika seorang mantan karyawan OpenAI mengubah prompt untuk bias terhadap tokoh seperti Elon Musk dan Donald Trump tanpa izin. Insiden ini menunjukkan tantangan keamanan pada pengembangan AI.

CEO OpenAI, Sam Altman, ikut menyoroti kejadian ini dengan cara yang humoris, menunjukkan perhatian dari komunitas AI terhadap masalah pengendalian dan transparansi chatbot di dunia teknologi.

--------------------

Analisis Kami: Masalah ini memperlihatkan bahwa keamanan internal dan pengawasan kode sangat krusial dalam pengembangan AI, terutama yang diakses publik. Tanpa kontrol ketat, potensi penyalahgunaan dapat merusak reputasi perusahaan dan mengurangi kepercayaan pengguna.

--------------------

Analisis Ahli:

Andrew Ng: Kasus seperti ini menunjukkan pentingnya pengaturan governance dalam AI untuk mencegah perilaku tak terduga dari model yang bisa mempengaruhi opini publik secara negatif.

Fei-Fei Li: Transparansi dalam pengembangan AI bukan hanya soal kode, tapi juga soal bagaimana tim teknis dan kebijakan berkolaborasi untuk menghindari bias dan manipulasi.

Yoshua Bengio: Insiden ini menggarisbawahi bahwa AI perlu memiliki mekanisme audit dan kontrol internal yang kuat agar dapat beroperasi secara etis dan bertanggung jawab.

--------------------

What's Next: Kejadian ini akan mendorong perusahaan teknologi AI lain untuk menguatkan keamanan dan protokol internal agar mencegah modifikasi sistem yang tidak sah serta meningkatkan transparansi dalam pengelolaan AI.

Referensi:
[1] https://theverge.com/news/668220/grok-white-genocide-south-africa-xai-unauthorized-modification-employee