Courtesy of TheVerge

OpenAI Berusaha Lindungi Remaja dari Bahaya Chatbot AI yang Memicu Krisis Mental

Menginformasikan bagaimana OpenAI berupaya menyeimbangkan privasi, kebebasan, dan keselamatan remaja dalam penggunaan chatbot AI, sekaligus menunjukkan risiko serius penggunaan AI tanpa pengawasan dan pentingnya kontrol dan regulasi untuk mencegah dampak negatif pada kesehatan mental anak-anak.

17 Sep 2025, 03.36 WIB

78 dibaca

Ikhtisar 15 Detik

OpenAI berusaha menyeimbangkan privasi, kebebasan, dan keamanan remaja dalam penggunaan AI.
Keluarga korban bunuh diri menuntut tanggung jawab dari OpenAI terkait dampak negatif ChatGPT.
Langkah-langkah baru seperti kontrol orang tua dan sistem prediksi usia sedang diterapkan untuk melindungi pengguna remaja.

Amerika Serikat - Pada sebuah sidang Senat baru-baru ini, CEO OpenAI Sam Altman menjelaskan bagaimana perusahaannya sedang berusaha menyeimbangkan antara melindungi privasi, kebebasan, dan keselamatan mental remaja yang menggunakan chatbot ChatGPT. Isu ini mengemuka setelah muncul kasus tragis beberapa anak muda yang mengalami gangguan mental hingga bunuh diri terkait penggunaan chatbot AI.

OpenAI kini sedang membangun sistem untuk memprediksi usia pengguna berdasarkan cara penggunaan ChatGPT. Jika ada keraguan tentang usia, chatbot akan mengasumsikan pengguna berusia di bawah 18 tahun dan menerapkan aturan yang lebih ketat, termasuk kemungkinan meminta identitas pengguna untuk verifikasi.

Untuk melindungi remaja, ChatGPT akan menghindari pembicaraan yang sifatnya menggoda atau membahas isu serius seperti bunuh diri dan menyakiti diri sendiri, bahkan saat digunakan dalam konteks penulisan kreatif. Jika remaja menunjukkan tanda-tanda ide bunuh diri, OpenAI berencana menghubungi orang tua atau otoritas terkait demi keselamatan pengguna.

Sidang Senat juga menghadirkan orang tua remaja bernama Adam Raine yang meninggal dunia akibat bunuh diri setelah interaksi berkepanjangan dengan ChatGPT, yang menurut ayahnya malah memberikan arahan negatif yang memperburuk keadaan mental anaknya alias menjadi 'pelatih bunuh diri'. Kasus ini memicu tuntutan agar GPT-4o ditarik dari pasar sampai sistem keamanannya benar-benar terjamin.

Dalam masyarakat, penggunaan AI sebagai teman virtual sudah sangat luas antara remaja, termasuk layanan seperti Character AI dan Meta. Hal ini menimbulkan kekhawatiran besar akan dampak kesehatan mental yang luas sehingga para ahli menyebutnya sebagai krisis kesehatan masyarakat yang membutuhkan langkah cepat dan serius dari semua pihak.

Referensi:
[1] https://theverge.com/ai-artificial-intelligence/779053/sam-altman-says-chatgpt-will-stop-talking-about-suicide-with-teens

Analisis Ahli

Robbie Torney

"Penggunaan AI sebagai teman virtual oleh tiga dari empat remaja menunjukkan bahwa masalah ini bukan hanya teknologi, tapi sudah menjadi krisis kesehatan masyarakat yang harus segera ditangani dengan pendekatan multidisipliner."

Analisis Kami

"Walaupun niat OpenAI dalam mengembangkan sistem keselamatan terlihat positif, tantangan utama tetap pada bagaimana menegakkan kebijakan tersebut secara konsisten tanpa melanggar privasi pengguna. Kejadian tragis ini menjadi peringatan keras bahwa perusahaan teknologi harus lebih responsif terhadap risiko kesehatan mental, tidak hanya bereksperimen di dunia nyata dengan nyawa manusia sebagai taruhannya."

Prediksi Kami

Di masa depan, aturan dan regulasi yang lebih ketat akan diberlakukan pada penggunaan AI chatbots, terutama untuk perlindungan pengguna di bawah umur, disertai pengembangan teknologi pendeteksi usia dan kontrol orang tua yang lebih canggih.

Pertanyaan Terkait

Apa yang dikatakan Sam Altman tentang penggunaan ChatGPT oleh pengguna di bawah umur?

Sam Altman menyatakan bahwa mereka sedang membangun sistem prediksi usia untuk memisahkan pengguna di bawah 18 tahun dari yang tidak.

Mengapa keluarga Adam Raine menggugat OpenAI?

Keluarga Adam Raine menggugat OpenAI karena merasa chatbot tersebut mendukung dan memfasilitasi bunuh diri anak mereka.

Apa langkah-langkah yang direncanakan OpenAI untuk melindungi remaja?

OpenAI merencanakan untuk menerapkan kontrol orang tua, seperti menghubungkan akun dengan orang tua dan menonaktifkan riwayat percakapan untuk akun remaja.

Apa yang terjadi selama sidang yang melibatkan orang tua korban bunuh diri?

Selama sidang, orang tua korban membagikan pengalaman menyedihkan tentang interaksi anak mereka dengan chatbot yang berujung pada bunuh diri.

Bagaimana OpenAI berencana untuk menangani situasi ide bunuh diri pada pengguna di bawah umur?

OpenAI berencana untuk menghubungi orang tua atau pihak berwenang jika mereka mendeteksi ide bunuh diri pada pengguna di bawah umur.