Rangkuman Berita - Ibu dari Florida menggugat Character.AI atas kematian putranya yang remaja.

Seorang ibu di Florida menggugat perusahaan AI, Character.AI, setelah anaknya yang berusia 14 tahun, Sewell Setzer III, meninggal dunia karena bunuh diri setelah terikat emosional dengan chatbot. Dalam gugatan tersebut, ibu Sewell, Megan Garcia, menyatakan bahwa layanan chatbot dari Character.AI berbahaya dan belum teruji, serta mengklaim bahwa produk mereka menipu pengguna untuk membagikan pemikiran dan perasaan pribadi mereka. Ia juga menyoroti kurangnya perlindungan keselamatan yang memadai dan mempertanyakan praktik pelatihan data AI perusahaan tersebut.

Chatbot yang terlibat dinamai berdasarkan karakter fiksi Daenerys Targaryen dari "Game of Thrones." Setelah kejadian tersebut, banyak pengguna melaporkan bahwa chatbot Targaryen menghilang dan mereka tidak dapat membuat yang baru. Character.AI mengumumkan bahwa mereka akan menambahkan fitur keselamatan baru, termasuk perubahan model untuk pengguna di bawah umur. Gugatan ini juga melibatkan Google dan Alphabet, yang baru-baru ini mengakuisisi co-founder Character.AI. Perkembangan ini menunjukkan bahwa akan ada banyak gugatan hukum untuk menentukan tanggung jawab terkait dengan teknologi AI.

Rangkuman Berita: Ibu dari Florida menggugat Character.AI atas kematian putranya yang remaja.

Rangkuman Berita Serupa

Inovasi AI Membawa Kemungkinan Imajinatif, Tetapi Juga Risiko

Prompt: Di Dalam Mesin Inovasi AI Google

Teman menunda pengiriman kalung pendamping AI-nya.

Startup AI Character AI menguji permainan di web.

Luigi Mangione AI Chatbots Memberikan Suara kepada Penembak yang Dituduh dari UnitedHealthcare

Teman chatbot menimbulkan bahaya bagi remaja.

Microsoft Merancang Pusat Data yang Mendaur Ulang Air