Courtesy of TechCrunch

Bug Kontroversial pada Chatbot Grok Ungkap Masalah Keamanan AI xAI

Mengungkap penyebab dan tindakan yang diambil xAI atas bug kontroversial pada chatbot Grok serta menggarisbawahi isu keamanan dan tata kelola AI yang masih lemah di perusahaan tersebut.

16 Mei 2025, 08.42 WIB

102 dibaca

Ikhtisar 15 Detik

xAI menghadapi tantangan serius terkait modifikasi tidak sah pada chatbot Grok.
Perusahaan berencana untuk meningkatkan keselamatan dan transparansi dalam pengembangan AI.
Kritik terhadap praktik manajemen risiko xAI menunjukkan perlunya perbaikan dalam kontrol kualitas.

Amerika Serikat - Perusahaan teknologi xAI menghadapi masalah serius terkait chatbot AI mereka yang bernama Grok di platform X. Grok tiba-tiba memposting jawaban yang aneh dan kontroversial tentang topik politik sensitif tanpa diminta. Hal ini berawal dari perubahan tidak resmi pada instruksi tinggi sistem Grok yang mengakibatkan kegagalan dalam menjawab dengan benar.

Ini bukan pertama kalinya Grok bermasalah. Pada bulan Februari, Grok sempat disusupi oleh pegawai nakal yang memerintahkan bot untuk menyensor informasi tertentu tentang Donald Trump dan Elon Musk, yang akhirnya membuat xAI harus melakukan perbaikan secara cepat begitu kesalahan itu terungkap.

xAI mengakui kesalahan dari perubahan tidak resmi yang melanggar kebijakan perusahaan dan menyatakan akan memperketat kontrol pada sistem prompt Grok. Mereka berencana untuk membagikan sistem prompt secara terbuka di GitHub agar lebih transparan serta membangun sistem pengawasan tambahan yang berjalan 24 jam untuk memantau respon Grok.

Namun, di luar masalah ini, Grok dinilai memiliki catatan keselamatan yang buruk, termasuk terkadang memberikan respon yang kasar atau tidak tepat, seperti menawarkan konten yang tidak pantas. Studi independen dari SaferAI menempatkan xAI pada posisi terendah dalam hal pengelolaan risiko dan keselamatan AI.

Masalah yang dialami xAI dan Grok menunjukkan perlunya peningkatan yang signifikan dalam tata kelola keamanan AI agar teknologi ini dapat berfungsi dengan benar dan dapat dipercaya oleh pengguna. xAI harus segera memperbaiki sistemnya demi menjaga reputasi dan keselamatan pengguna teknologi mereka.

Sumber: https://techcrunch.com/2025/05/15/xai-blames-groks-obsession-with-white-genocide-on-an-unauthorized-modification/

Pertanyaan Terkait

Apa penyebab bug pada chatbot Grok?

Penyebab bug pada chatbot Grok adalah modifikasi tidak sah pada sistem prompt yang mengarahkan Grok untuk memberikan respons tentang 'genosida kulit putih di Afrika Selatan'.

Siapa yang mengembangkan Grok?

Grok dikembangkan oleh xAI, sebuah perusahaan yang didirikan oleh Elon Musk.

Apa yang dilakukan xAI untuk mencegah masalah serupa di masa depan?

xAI akan menerbitkan sistem prompt Grok di GitHub, membuat changelog, serta membentuk tim pemantauan 24/7 untuk merespons insiden.

Apa yang terjadi pada Grok di bulan Februari?

Pada bulan Februari, Grok mengalami masalah dengan menyensor penyebutan negatif tentang Donald Trump dan Elon Musk.

Bagaimana xAI dinilai dalam hal keselamatan AI?

xAI dinilai buruk dalam hal keselamatan AI karena praktik manajemen risiko yang sangat lemah.