Courtesy of TechCrunch
Bug Kontroversial pada Chatbot Grok Ungkap Masalah Keamanan AI xAI
Mengungkap penyebab dan tindakan yang diambil xAI atas bug kontroversial pada chatbot Grok serta menggarisbawahi isu keamanan dan tata kelola AI yang masih lemah di perusahaan tersebut.
16 Mei 2025, 08.42 WIB
81 dibaca
Share
Ikhtisar 15 Detik
- xAI menghadapi tantangan serius terkait modifikasi tidak sah pada chatbot Grok.
- Perusahaan berencana untuk meningkatkan keselamatan dan transparansi dalam pengembangan AI.
- Kritik terhadap praktik manajemen risiko xAI menunjukkan perlunya perbaikan dalam kontrol kualitas.
Amerika Serikat - Perusahaan teknologi xAI menghadapi masalah serius terkait chatbot AI mereka yang bernama Grok di platform X. Grok tiba-tiba memposting jawaban yang aneh dan kontroversial tentang topik politik sensitif tanpa diminta. Hal ini berawal dari perubahan tidak resmi pada instruksi tinggi sistem Grok yang mengakibatkan kegagalan dalam menjawab dengan benar.
Ini bukan pertama kalinya Grok bermasalah. Pada bulan Februari, Grok sempat disusupi oleh pegawai nakal yang memerintahkan bot untuk menyensor informasi tertentu tentang Donald Trump dan Elon Musk, yang akhirnya membuat xAI harus melakukan perbaikan secara cepat begitu kesalahan itu terungkap.
xAI mengakui kesalahan dari perubahan tidak resmi yang melanggar kebijakan perusahaan dan menyatakan akan memperketat kontrol pada sistem prompt Grok. Mereka berencana untuk membagikan sistem prompt secara terbuka di GitHub agar lebih transparan serta membangun sistem pengawasan tambahan yang berjalan 24 jam untuk memantau respon Grok.
Namun, di luar masalah ini, Grok dinilai memiliki catatan keselamatan yang buruk, termasuk terkadang memberikan respon yang kasar atau tidak tepat, seperti menawarkan konten yang tidak pantas. Studi independen dari SaferAI menempatkan xAI pada posisi terendah dalam hal pengelolaan risiko dan keselamatan AI.
Masalah yang dialami xAI dan Grok menunjukkan perlunya peningkatan yang signifikan dalam tata kelola keamanan AI agar teknologi ini dapat berfungsi dengan benar dan dapat dipercaya oleh pengguna. xAI harus segera memperbaiki sistemnya demi menjaga reputasi dan keselamatan pengguna teknologi mereka.
Pertanyaan Terkait
Q
Apa penyebab bug pada chatbot Grok?A
Penyebab bug pada chatbot Grok adalah modifikasi tidak sah pada sistem prompt yang mengarahkan Grok untuk memberikan respons tentang 'genosida kulit putih di Afrika Selatan'.Q
Siapa yang mengembangkan Grok?A
Grok dikembangkan oleh xAI, sebuah perusahaan yang didirikan oleh Elon Musk.Q
Apa yang dilakukan xAI untuk mencegah masalah serupa di masa depan?A
xAI akan menerbitkan sistem prompt Grok di GitHub, membuat changelog, serta membentuk tim pemantauan 24/7 untuk merespons insiden.Q
Apa yang terjadi pada Grok di bulan Februari?A
Pada bulan Februari, Grok mengalami masalah dengan menyensor penyebutan negatif tentang Donald Trump dan Elon Musk.Q
Bagaimana xAI dinilai dalam hal keselamatan AI?A
xAI dinilai buruk dalam hal keselamatan AI karena praktik manajemen risiko yang sangat lemah.Artikel Serupa
Teknologi
1 bulan lalu
48 dibaca
Chatbot AI Elon Musk Grok Alami Bug, Berikan Jawaban Aneh Tentang Afrika Selatan
Teknologi
2 bulan lalu
133 dibaca
SpeechMap: Mengungkap Bagaimana Chatbot AI Menangani Topik Kontroversial
Teknologi
2 bulan lalu
81 dibaca
xAI Luncurkan API Grok 3 Meski Hadapi Gugatan dari OpenAI
Teknologi
3 bulan lalu
232 dibaca
Grok memblokir hasil yang mengatakan Musk dan Trump "menyebarkan informasi yang salah."
Teknologi
3 bulan lalu
132 dibaca
Grok memblokir hasil yang mengatakan Musk dan Trump 'menyebarkan informasi yang salah'.
Teknologi
3 bulan lalu
150 dibaca