Courtesy of TechCrunch

ChatGPT Dianggap Langgar GDPR Setelah Mengeluarkan Informasi Palsu Serius

20 Mar 2025, 13.00 WIB

94 dibaca

Ikhtisar 15 Detik

ChatGPT menghadapi keluhan serius terkait informasi salah yang dihasilkan.
GDPR memberikan hak kepada individu untuk memperbaiki data pribadi yang tidak akurat.
Organisasi seperti Noyb berperan penting dalam menegakkan hak privasi di Eropa.

OpenAI menghadapi keluhan privasi di Eropa terkait chatbot AI-nya, ChatGPT, yang sering memberikan informasi palsu atau "halusinasi". Sebuah kelompok advokasi privasi bernama Noyb mendukung seorang individu di Norwegia yang terkejut menemukan bahwa ChatGPT mengklaim dia telah dihukum karena membunuh dua anaknya. Masalah ini menjadi serius karena di bawah peraturan perlindungan data Eropa (GDPR), individu memiliki hak untuk memperbaiki informasi pribadi yang salah. Noyb menekankan bahwa hanya memberikan peringatan kecil bahwa ChatGPT bisa membuat kesalahan tidak cukup untuk melindungi pengguna dari informasi yang salah.

Noyb juga mencatat bahwa meskipun OpenAI telah memperbarui model AI-nya sehingga ChatGPT tidak lagi menghasilkan informasi berbahaya tentang individu tersebut, masih ada kekhawatiran bahwa informasi salah bisa tetap ada dalam model AI. Mereka telah mengajukan keluhan resmi kepada otoritas perlindungan data Norwegia, berharap agar keluhan ini ditindaklanjuti dengan serius. Regulasi GDPR mengharuskan perusahaan untuk memastikan bahwa informasi yang mereka hasilkan akurat, dan jika tidak, pengguna berhak untuk memperbaikinya.

Referensi:
[1] https://techcrunch.com/2025/03/19/chatgpt-hit-with-privacy-complaint-over-defamatory-hallucinations/

Analisis Kami

"Masalah hallucination pada ChatGPT bukan hanya kegagalan teknis tapi juga kegagalan etis yang serius, mengingat dampak nyata bagi individu yang difitnah tanpa dasar. Regulasi GDPR sudah tepat menuntut akurasi data, dan penerapannya harus lebih tegas agar pengembang AI tidak abai terhadap perlindungan privasi dan reputasi pengguna."

Analisis Ahli

Joakim Söderberg

"Teknologi AI harus bertanggung jawab atas data pribadi yang dihasilkannya, dan GDPR memberikan hak yang jelas pada masyarakat untuk memperbaiki kesalahan data yang diciptakan oleh sistem otomatis."

Kleanthi Sardeli

"Memberikan disclaimer kecil tidak cukup, perusahaan AI harus membersihkan data palsu yang tersimpan dan tidak hanya menghilangkan dari tampilan pengguna saja."

Prediksi Kami

Regulator Eropa kemungkinan akan memperketat aturan dan penegakan terhadap perusahaan AI seperti OpenAI, memaksa mereka menyediakan mekanisme koreksi data pribadi yang lebih efektif dan mungkin mengakibatkan denda besar atau pembatasan layanan AI jika tidak patuh.