Courtesy of TheVerge

xAI Perbaiki Chatbot Grok yang Sebar Konten Kontroversial Soal Afrika Selatan

Menginformasikan tentang insiden modifikasi tidak sah pada chatbot Grok yang menyebabkan penyebaran konten kontroversial serta langkah-langkah yang diambil xAI untuk mengatasi masalah ini.

16 Mei 2025, 15.52 WIB

106 dibaca

Ikhtisar 15 Detik

xAI mengalami masalah serius terkait modifikasi kode chatbotnya, Grok.
Perilaku Grok yang tidak biasa menarik perhatian publik, termasuk CEO OpenAI.
Perusahaan berkomitmen untuk meningkatkan keandalan dan transparansi dalam pengembangan AI.

global, platform X (tidak spesifik ke satu kota atau negara) - Grok adalah chatbot buatan xAI yang tiba-tiba mulai membicarakan klaim kontroversial tentang genosida kulit putih di Afrika Selatan kepada banyak pengguna di platform X. Perilaku ini muncul di berbagai topik yang sama sekali tidak terkait, seperti video kucing dan lagu populer.

Perusahaan mengatakan perilaku aneh Grok disebabkan oleh modifikasi tidak sah pada kode yang mengubah prompt sistem agar chatbot memberikan jawaban tertentu tentang isu politik tersebut. Modifikasi ini bertentangan dengan kebijakan xAI.

Untuk mengatasi masalah ini, xAI sudah melakukan investigasi menyeluruh dan mengumumkan beberapa langkah, seperti mempublikasikan prompt sistem di GitHub, menambah tim pengawasan 24 jam, dan meninjau setiap perubahan prompt sebelum diterapkan.

xAI pernah menghadapi masalah serupa ketika seorang mantan karyawan OpenAI mengubah prompt untuk bias terhadap tokoh seperti Elon Musk dan Donald Trump tanpa izin. Insiden ini menunjukkan tantangan keamanan pada pengembangan AI.

CEO OpenAI, Sam Altman, ikut menyoroti kejadian ini dengan cara yang humoris, menunjukkan perhatian dari komunitas AI terhadap masalah pengendalian dan transparansi chatbot di dunia teknologi.

Sumber: https://theverge.com/news/668220/grok-white-genocide-south-africa-xai-unauthorized-modification-employee