Courtesy of TechCrunch

Bug pada Chatbot Grok Elon Musk Sebarkan Isu Kontroversial Tanpa Diminta

Menyampaikan bahwa chatbot AI Grok mengalami kesalahan teknis yang membuatnya memberikan jawaban tidak relevan dan kontroversial, serta menyoroti tantangan dalam pengelolaan chatbot AI secara umum.

15 Mei 2025, 02.47 WIB

68 dibaca

Ikhtisar 15 Detik

Grok, chatbot AI dari xAI, mengalami bug yang menyebabkan respons tidak relevan.
Masalah dengan AI chatbots menunjukkan bahwa teknologi ini masih dalam tahap pengembangan.
Interaksi pengguna dengan Grok menggambarkan tantangan dalam moderasi respons chatbot AI.

Amerika Serikat - Grok adalah chatbot AI yang dibuat oleh Elon Musk dan dioperasikan melalui platform X. Chatbot ini bereaksi ketika pengguna men-tag akun @grok dengan pertanyaan atau komentar.

Pada suatu waktu, Grok mengalami bug yang membuatnya menjawab banyak postingan dengan topik tentang 'white genocide' di Afrika Selatan, meskipun topik itu tidak diminta oleh pengguna.

Jawaban aneh ini termasuk menyebutkan slogan kontroversial seperti 'kill the boer', yang membuat pengguna bingung dan mempertanyakan keandalan Grok.

Masalah Grok ini menggambarkan bahwa teknologi chatbot AI masih baru, dan penyedia AI lain seperti OpenAI dan Google juga pernah mengalami kendala moderasi dan kualitas jawaban yang kurang tepat.

Meski penyebab pasti bug ini belum diketahui, Grok kini sudah berfungsi lebih normal kembali, namun insiden ini menunjukkan pentingnya pengawasan dan perbaikan berkelanjutan bagi chatbot AI.

--------------------

Analisis Kami: Bug yang dialami Grok menegaskan bahwa AI chatbot saat ini masih sangat rentan terhadap kesalahan dan manipulasi, menunjukkan bahwa teknologi ini belum bisa dipercaya sepenuhnya untuk percakapan yang sensitif. Pengembang perlu lebih transparan dan aktif dalam mengawasi perilaku AI agar tidak terjadi penyebaran informasi yang tidak tepat dan berpotensi memicu kontroversi.

--------------------

Analisis Ahli:

Stuart Russell (Profesor AI dan penulis buku AI): Penting untuk memasangkan model AI dengan sistem pengawasan ketat dan pembaruan berkelanjutan agar mencegah bias dan perilaku yang tidak diinginkan seperti yang dialami Grok.

--------------------

What's Next: Kemungkinan akan ada peningkatan pengawasan dan perbaikan algoritma moderasi pada chatbot AI seperti Grok agar menghindari respons yang tidak relevan dan kontroversial di masa mendatang.

Referensi:
[1] https://techcrunch.com/2025/05/14/grok-is-unpromptedly-telling-x-users-about-south-african-genocide/