Courtesy of Axios
Ibu dari Florida menggugat Character.AI atas kematian putranya yang remaja.
24 Okt 2024, 02.30 WIB
73 dibaca
Share
Seorang ibu di Florida menggugat perusahaan AI, Character.AI, setelah anaknya yang berusia 14 tahun, Sewell Setzer III, meninggal dunia karena bunuh diri setelah terikat emosional dengan chatbot. Dalam gugatan tersebut, ibu Sewell, Megan Garcia, menyatakan bahwa layanan chatbot dari Character.AI berbahaya dan belum teruji, serta mengklaim bahwa produk mereka menipu pengguna untuk membagikan pemikiran dan perasaan pribadi mereka. Ia juga menyoroti kurangnya perlindungan keselamatan yang memadai dan mempertanyakan praktik pelatihan data AI perusahaan tersebut.
Chatbot yang terlibat dinamai berdasarkan karakter fiksi Daenerys Targaryen dari "Game of Thrones." Setelah kejadian tersebut, banyak pengguna melaporkan bahwa chatbot Targaryen menghilang dan mereka tidak dapat membuat yang baru. Character.AI mengumumkan bahwa mereka akan menambahkan fitur keselamatan baru, termasuk perubahan model untuk pengguna di bawah umur. Gugatan ini juga melibatkan Google dan Alphabet, yang baru-baru ini mengakuisisi co-founder Character.AI. Perkembangan ini menunjukkan bahwa akan ada banyak gugatan hukum untuk menentukan tanggung jawab terkait dengan teknologi AI.
Artikel Serupa
Teknologi
2 bulan lalu
103 dibaca
Character.AI meluncurkan alat untuk "wawasan orang tua"
Teknologi
3 bulan lalu
117 dibaca
Kesehatan mental anak-anak berisiko akibat chatbot, kata kelompok advokasi.
Teknologi
4 bulan lalu
86 dibaca
Inovasi AI Membawa Kemungkinan Imajinatif, Tetapi Juga Risiko
Bisnis
4 bulan lalu
98 dibaca
Teman menunda pengiriman kalung pendamping AI-nya.
Bisnis
5 bulan lalu
145 dibaca
Startup AI Character AI menguji permainan di web.
Teknologi
6 bulan lalu
112 dibaca
Luigi Mangione AI Chatbots Memberikan Suara kepada Penembak yang Dituduh dari UnitedHealthcare
Sains
6 bulan lalu
77 dibaca