Courtesy of InterestingEngineering

OpenAI Luncurkan Kontrol Orang Tua Baru untuk Lindungi Remaja di ChatGPT

OpenAI berupaya meluncurkan fitur kontrol orang tua untuk meningkatkan keselamatan pengguna muda dan mengurangi risiko bahaya psikologis akibat interaksi dengan ChatGPT, sekaligus menghadapi tekanan publik dan hukum.

02 Sep 2025, 23.34 WIB

131 dibaca

Ikhtisar 15 Detik

OpenAI berupaya meningkatkan kontrol orang tua untuk melindungi remaja saat menggunakan ChatGPT.
Kasus tragis yang melibatkan penggunaan ChatGPT memicu perhatian terhadap keamanan dan dampak kesehatan mental.
Pentingnya kolaborasi dengan ahli kesehatan mental dalam pengembangan fitur AI untuk memastikan keamanan pengguna.

Amerika Serikat - OpenAI menghadapi kritik dan gugatan hukum setelah adanya kasus terkait bagaimana ChatGPT memberikan respons yang kurang pantas kepada pengguna rentan, terutama remaja dan orang dewasa yang mengalami krisis mental. Beberapa kasus tragis bahkan berakhir dengan kematian, memicu kebutuhan regulasi dan kontrol yang lebih ketat.

Sebagai tanggapan, OpenAI berencana memperkenalkan fitur kontrol orang tua dalam waktu dekat. Melalui fitur ini, orang tua dapat menghubungkan akun mereka dengan akun ChatGPT anak mereka yang berusia minimal 13 tahun, serta mengatur batasan fitur, seperti mematikan riwayat obrolan dan fitur memori agar lebih aman bagi remaja.

Fitur penting lain adalah pemberitahuan otomatis untuk orang tua jika sistem mendeteksi tanda-tanda gangguan emosional akut pada remaja. Selain itu, ChatGPT juga akan tetap memberikan pengingat berguna selama sesi obrolan yang panjang, supaya pengguna tetap berhati-hati dan tidak berlebihan menggunakan layanan.

OpenAI tidak berhenti di situ dan akan terus bekerja sama dengan para ahli kesehatan mental, dokter, dan ilmuwan untuk mengembangkan dan memperkuat protokol keamanan. Kerjasama ini bertujuan agar AI bisa lebih peka dan bertanggung jawab, dengan fokus khusus pada kebutuhan dan keselamatan pengguna muda.

Meskipun demikian, masalah mendasar seperti keterbatasan teknologi model Transformer yang digunakan oleh ChatGPT menyebabkan potensi kerusakan dalam sesi obrolan lama tidak selalu bisa dihilangkan secara total. Studi dari Oxford mengingatkan risiko dari penguatan keyakinan salah akibat feedback yang berulang antara pengguna dan AI.

Referensi:
[1] https://interestingengineering.com/culture/openai-chatgpt-parental-controls-teen-safety

Analisis Kami

"Langkah OpenAI memperkenalkan kontrol orang tua adalah respons yang sudah sangat dibutuhkan namun tetap harus diikuti oleh penerapan teknis yang solid agar efektif dalam jangka panjang. Tanpa transparansi dan peningkatan arsitektur AI yang mendalam, risiko penyalahgunaan dan kegagalan perlindungan tetap akan ada, khususnya di momen sesi percakapan yang panjang."

Analisis Ahli

Oxford researchers

"Risiko "bidirectional belief amplification" bisa menyebabkan chatbot memperkuat keyakinan berbahaya pengguna, menciptakan lingkaran setan yang sulit diputus oleh metode safeties saat ini."

Prediksi Kami

Dalam waktu dekat, penggunaan ChatGPT akan semakin diawasi ketat oleh regulator dan teknologi kontrol orang tua akan menjadi standar dalam layanan AI, terutama untuk pengguna muda, guna mencegah insiden tragis akibat respons AI yang tidak aman.

Pertanyaan Terkait

Apa rencana OpenAI terkait kontrol orang tua untuk ChatGPT?

OpenAI berencana untuk meluncurkan kontrol orang tua yang memungkinkan orang tua menghubungkan akun mereka dengan akun ChatGPT remaja mereka.

Mengapa OpenAI mengembangkan kontrol orang tua?

OpenAI mengembangkan kontrol orang tua setelah kritik dan kasus yang melibatkan pengguna yang rentan, termasuk kasus bunuh diri.

Apa saja fitur yang akan tersedia bagi orang tua?

Fitur yang tersedia bagi orang tua termasuk pengaturan perilaku yang sesuai usia dan pemberitahuan jika sistem mendeteksi remaja mengalami distress akut.

Apa yang terjadi pada Adam Raine terkait ChatGPT?

Adam Raine meninggal dunia setelah terlibat dalam percakapan yang sangat berbahaya dengan ChatGPT yang membahas bunuh diri.

Siapa yang terlibat dalam pengembangan fitur keamanan untuk ChatGPT?

OpenAI bekerja sama dengan Expert Council on Well-Being and AI dan Global Physician Network untuk mengembangkan fitur keamanan.