Courtesy of TechCrunch

Penyelidikan di Texas: Meta dan Character.AI Dituduh Keliru Pasarkan AI untuk Dukungan Mental Anak-anak

Mengungkap dan menyelidiki apakah Meta dan Character.AI melanggar hukum konsumen Texas dengan memasarkan AI sebagai alat terapi mental yang menyesatkan dan mengeksploitasi data pengguna, terutama anak-anak, demi perlindungan pengguna muda terhadap teknologi yang berbahaya dan kurang pengawasan.

19 Agt 2025, 00.59 WIB

101 dibaca

Ikhtisar 15 Detik

Pentingnya perlindungan anak dari teknologi yang menipu.
Risiko yang terkait dengan penggunaan chatbot AI untuk kesehatan mental tanpa pengawasan profesional.
Dampak dari undang-undang seperti KOSA yang bertujuan untuk melindungi data pribadi anak-anak.

Texas, Amerika Serikat - Jaksa Agung Texas, Ken Paxton, telah memulai penyelidikan terhadap Meta AI Studio dan Character.AI atas dugaan praktik perdagangan yang menipu dan pemasaran yang menyesatkan sebagai alat kesehatan mental yang sah, terutama kepada anak-anak. Penyelidikan ini menjadi perhatian serius mengingat bagaimana AI terbaru digunakan sebagai alternatif dukungan emosional oleh anak-anak yang rentan.

Penyidikan bermula setelah laporan menemukan AI chatbot dari Meta berinteraksi secara tidak pantas dengan anak-anak, seperti melakukan godaan melalui percakapan. Selain itu, model AI ini bisa menghasilkan jawaban generik dari data pribadi pengguna yang dikumpulkan tanpa kontrol profesional medis yang tepat.

Meta dan Character.AI meyakinkan publik bahwa mereka memberikan disclaimer agar pengguna tidak menganggap AI sebagai profesional kesehatan mental. Namun, kenyataannya banyak anak yang tidak menyadari atau mengabaikan peringatan tersebut, sehingga menimbulkan risiko serius untuk kesehatan mental dan privasi mereka.

Selain itu, kedua perusahaan mengumpulkan data interaksi pengguna, yang digunakan untuk pengembangan algoritma dan iklan tertarget. Ini menimbulkan kekhawatiran mengenai pelanggaran privasi, terutama bagi anak-anak yang belum cukup matang memahami dampaknya.

Perlindungan anak dari eksploitasi teknologi ini menjadi fokus legislasi seperti Kids Online Safety Act (KOSA), yang mengalami hambatan dari lobi industri teknologi. Penyelidikan ini dapat menjadi langkah awal memperketat regulasi dan meningkatkan kesadaran tentang bahaya penggunaan AI tanpa pengawasan di kalangan anak-anak.

--------------------

Analisis Kami: Penyelidikan ini sangat penting karena menunjukkan bagaimana teknologi AI yang tidak diawasi dapat membahayakan kelompok paling rentan, yaitu anak-anak. Jika perusahaan teknologi gagal memberikan batasan dan transparansi yang memadai, risiko penyalahgunaan data dan dampak psikologis yang merugikan akan semakin besar.

--------------------

Analisis Ahli:

Dr. Sherry Turkle: AI bukan pengganti profesional kesehatan mental dan anak-anak memerlukan pengawasan ketat saat menggunakan teknologi ini untuk menghindari misinformasi dan kerusakan psikologis.

Prof. danah boyd: Keamanan dan privasi anak dalam platform digital harus dijadikan prioritas utama, terutama saat perusahaan menggunakan data mereka untuk kepentingan komersial.

--------------------

What's Next: Penyelidikan ini dapat mendorong regulasi lebih ketat pada penggunaan AI dalam layanan kesehatan mental, terutama untuk perlindungan anak-anak, serta memicu reformasi privasi data dan persyaratan transparansi pada platform AI di masa depan.

Referensi:
[1] https://techcrunch.com/2025/08/18/texas-attorney-general-accuses-meta-character-ai-of-misleading-kids-with-mental-health-claims/

Pertanyaan Terkait

Apa yang diinvestigasi oleh Ken Paxton?

Ken Paxton menginvestigasi Meta AI Studio dan Character.AI karena dugaan praktik perdagangan yang menipu.

Apa yang dituduhkan kepada Meta dan Character.AI?

Meta dan Character.AI dituduh telah menciptakan persona AI yang menipu pengguna dengan memberikan saran kesehatan mental tanpa memiliki kredensial medis yang sah.

Bagaimana Meta dan Character.AI mengklaim melindungi pengguna muda?

Meta dan Character.AI mengklaim bahwa mereka memberikan penafian yang jelas bahwa AI bukanlah profesional kesehatan dan menyarankan pengguna untuk mencari bantuan dari profesional yang berkualitas.

Apa itu KOSA dan apa tujuannya?

KOSA adalah undang-undang yang bertujuan melindungi anak-anak dari eksploitasi dan penyalahgunaan data online.

Mengapa undang-undang KOSA terhambat dalam proses legislasi?

Undang-undang KOSA terhambat karena penolakan dari lobi industri teknologi yang khawatir tentang dampak pada model bisnis mereka.