Courtesy of TechCrunch

Texas Selidiki AI Meta dan Character.AI Karena Klaim Layanan Kesehatan Mental Palsu

Mengungkap dan menyelidiki potensi praktik perdagangan menipu dan pemasaran yang menyesatkan oleh perusahaan AI terkait penyajian layanan kesehatan mental palsu, sekaligus menyoroti risiko privasi dan perlindungan anak-anak dalam penggunaan chatbot AI.

19 Agt 2025, 00.59 WIB

10 dibaca

Ikhtisar 15 Detik

Investigasi terhadap Meta dan Character.AI menunjukkan perhatian terhadap praktik pemasaran yang menipu dalam teknologi AI.
Perlunya perlindungan bagi anak-anak dari eksploitasi dalam interaksi dengan chatbot AI yang berpotensi berbahaya.
Kebijakan privasi dan pengumpulan data oleh platform teknologi perlu diperhatikan untuk mencegah pelanggaran privasi anak-anak.

Texas, Amerika Serikat - Texas Attorney General Ken Paxton memulai penyelidikan terhadap dua perusahaan teknologi besar, Meta AI Studio dan Character.AI, yang dituduh menipu pengguna dengan menjual chatbot AI sebagai alat kesehatan mental. Paxton mengkhawatirkan bahwa anak-anak yang rentan bisa tertipu dengan klaim palsu bahwa mereka mendapatkan perawatan atau dukungan kesehatan yang sesungguhnya.

Meta dan Character.AI menggunakan teknologi AI untuk menciptakan persona yang bisa berinteraksi secara emosional dengan pengguna. Namun, kedua platform ini tidak memiliki pengawasan medis atau kredensial terapeutik yang sah, sehingga interaksi yang diberikan sering berupa jawaban generik yang dihasilkan oleh algoritma yang memanfaatkan data pribadi pengguna.

Selain itu, keduanya dikritik karena mengumpulkan data pengguna, termasuk anak-anak di bawah umur, yang kemudian digunakan untuk pengembangan AI dan iklan tertarget. Meskipun ada peringatan dan kebijakan untuk membatasi penggunaan oleh anak-anak di bawah 13 tahun, praktik penegakan aturan tersebut dinilai kurang efektif.

Kekhawatiran tentang penyalahgunaan data dan perlindungan anak-anak ini mirip dengan pokok masalah yang diatur dalam undang-undang KOSA (Kids Online Safety Act), yang dirancang untuk melindungi anak-anak dari konten berbahaya dan eksploitasi digital. Namun, upaya legislatif ini sempat tertunda akibat tekanan dari lobi-lobi industri teknologi besar.

Penyelidikan ini bisa membuka jalan bagi regulasi yang lebih ketat terhadap penggunaan AI dalam kesehatan mental, terutama bagi pengguna anak-anak dan remaja. Hal ini juga menyoroti perlunya transparansi dan tanggung jawab dari perusahaan teknologi untuk melindungi privasi dan kesejahteraan pengguna muda mereka.

--------------------

Analisis Kami: Kasus ini menunjukkan bahwa teknologi AI yang berkembang pesat harus diimbangi dengan tanggung jawab etis dan regulasi yang ketat, terutama saat berurusan dengan anak-anak yang rentan. Tanpa pengawasan yang tepat, AI bisa membahayakan pengguna muda melalui klaim palsu serta pengumpulan data yang invasif dan tidak transparan.

--------------------

Analisis Ahli:

Dr. Ayu Rahmawati (Psikolog Anak): Penggunaan AI untuk mendukung kesehatan mental bisa berpotensi merugikan jika tidak didukung oleh tenaga profesional berlisensi, karena respons AI yang generik dapat memperburuk kondisi psikologis anak.

Prof. Budi Santoso (Ahli Privasi Data): Pengumpulan dan penggunaan data yang tidak transparan pada platform AI tanpa perlindungan khusus bagi anak-anak melanggar prinsip dasar privasi dan memerlukan regulasi lebih ketat.

--------------------

What's Next: Penyelidikan ini kemungkinan akan memicu regulasi yang lebih ketat terhadap penggunaan AI di bidang kesehatan mental dan perlindungan data anak-anak, termasuk kemungkinan pembatasan ketat pada pemasaran dan pengumpulan data oleh platform AI.

Referensi:
[1] https://techcrunch.com/2025/08/18/texas-ag-accuses-meta-character-ai-of-misleading-kids-with-mental-health-claims/

Pertanyaan Terkait

Apa yang menjadi fokus investigasi yang diluncurkan oleh Ken Paxton?

Fokus investigasi Ken Paxton adalah dugaan praktik perdagangan menipu oleh Meta AI Studio dan Character.AI yang mengklaim sebagai alat kesehatan mental.

Apa yang dituduhkan kepada Meta dan Character.AI?

Meta dan Character.AI dituduh menciptakan persona AI yang tampak sebagai alat terapeutik tanpa memiliki kredensial medis yang tepat.

Mengapa penting untuk melindungi anak-anak dari teknologi yang menipu?

Penting untuk melindungi anak-anak dari teknologi yang menipu karena mereka mungkin lebih rentan dan dapat salah memahami interaksi dengan AI sebagai dukungan emosional yang sah.

Apa itu KOSA dan mengapa itu relevan dalam konteks artikel ini?

KOSA adalah undang-undang yang bertujuan melindungi anak-anak dari eksploitasi online dan praktik periklanan yang tidak etis, yang menjadi relevan karena masalah privasi dan data yang diangkat dalam artikel.

Bagaimana Meta menjelaskan tindakan dan kebijakan privasinya terkait chatbot AI?

Meta menjelaskan bahwa mereka memberi label pada AI dan mencantumkan penafian bahwa respons dihasilkan oleh AI, serta menyarankan pengguna untuk mencari profesional medis saat diperlukan.