Courtesy of TechCrunch
OpenAI Perketat Aturan Chatbot untuk Lindungi Remaja dari Bahaya AI
Menginformasikan pembaruan kebijakan dan langkah-langkah OpenAI dalam menangani penggunaan chatbot AI oleh anak di bawah usia 18 tahun untuk melindungi mereka dari konten berbahaya dan perilaku yang bisa merugikan, serta menyampaikan tantangan penerapan kebijakan tersebut di praktik.
20 Des 2025, 00.51 WIB
52 dibaca
Share
Ikhtisar 15 Detik
- OpenAI telah memperbarui pedoman untuk melindungi remaja dari interaksi berbahaya dengan AI.
- Ada tekanan dari pembuat kebijakan untuk meningkatkan keselamatan anak-anak saat menggunakan teknologi AI.
- Transparansi dalam kebijakan dan pedoman adalah langkah penting untuk membangun kepercayaan dalam teknologi AI.
Amerika Serikat - OpenAI baru-baru ini memperbarui pedoman bagaimana chatbot AI mereka harus berinteraksi dengan pengguna yang berusia di bawah 18 tahun. Langkah ini diambil setelah adanya kekhawatiran yang makin besar mengenai dampak AI terhadap remaja, terutama setelah beberapa kasus kematian yang terkait dengan penggunaan chatbot secara intens. Pembaruan ini mencakup larangan model untuk menghasilkan konten seksual terkait anak-anak dan larangan mendorong perilaku membahayakan diri sendiri.
Direktur OpenAI juga mengumumkan akan memakai sistem pendeteksi usia otomatis yang dapat mengenali akun milik remaja dan menerapkan pengamanan khusus. Model AI akan menghindari peran romantis atau kekerasan, meskipun non-grafis, serta memberikan perhatian lebih pada topik seperti citra tubuh dan gangguan makan. Perusahaan juga melarang penggunaan skenario rekayasa yang berusaha mengelabuhi chatbot dengan konten berbahaya dengan dalih fiksi atau edukasi.
Selain itu, OpenAI menyediakan sumber belajar literasi AI agar orang tua dan remaja dapat berdiskusi mengenai penggunaan AI dengan cara yang sehat dan aman. Hal ini bertujuan untuk melibatkan keluarga dalam pengawasan dan edukasi, karena perusahaan menekankan pentingnya peran orang tua dalam mengatur interaksi anak dengan teknologi ini. Namun, sejumlah pakar tetap waspada terhadap kemungkinan ketidakkonsistenan dalam penerapan kebijakan tersebut.
Beberapa peneliti dan organisasi seperti Common Sense Media menunjukkan bahwa seringkali AI tetap mengikuti gaya bahasa pengguna yang mirip dengan responsnya, yang bisa berbahaya bila pengguna sedang dalam kondisi vulnerable. Kasus remaja yang bernama Adam Raine menampilkan kegagalan sistem moderasi dalam menghentikan dialog berbahaya, walaupun sudah ada banyak peringatan tentang konten bunuh diri dan menyakiti diri sendiri dalam percakapan itu.
Pemerintah AS, termasuk jaksa agung dari 42 negara bagian, menekan perusahaan teknologi untuk memasang pengaman lebih kuat agar anak-anak terlindungi. Selain itu, ada upaya legislasi yang mengusulkan larangan interaksi AI bagi anak di bawah umur. OpenAI sendiri berusaha mengantisipasi regulasi tersebut dengan pengumuman kebijakan terbaru ini dan berharap dapat menjadi contoh transparansi dan keselamatan penggunaan AI bagi publik luas.
Referensi:
[1] https://techcrunch.com/2025/12/19/openai-adds-new-teen-safety-rules-to-models-as-lawmakers-weigh-ai-standards-for-minors/
[1] https://techcrunch.com/2025/12/19/openai-adds-new-teen-safety-rules-to-models-as-lawmakers-weigh-ai-standards-for-minors/
Analisis Ahli
Lily Li
"Sangat menyambut langkah OpenAI untuk menolak permintaan berbahaya dan berharap respons ini mampu memutus siklus perilaku tidak pantas dan membahayakan yang sering muncul pada remaja saat menggunakan chatbot."
Robbie Torney
"Mengkhawatirkan potensi benturan antar panduan yang dapat membuat chatbot lebih fokus pada keterlibatan pengguna daripada keselamatan mereka, terutama ketika model meniru energi emosional pengguna tanpa mempertimbangkan konteks."
Steven Adler
"Menyatakan bahwa niat baik tidak cukup jika model tidak diukur dan dipantau perilakunya secara nyata; penting bagi OpenAI untuk menunjukkan bukti bahwa modelnya benar-benar mematuhi pedoman keselamatan yang telah ditentukan."
Analisis Kami
"Meski langkah OpenAI patut diapresiasi sebagai respon terhadap krisis, tanpa pengawasan ketat dan evaluasi perilaku chatbot secara real-time, risiko bahaya tetap tinggi, khususnya bagi pengguna muda yang rentan. Perusahaan harus cepat beradaptasi dengan teknologi pemantau yang lebih efektif dan transparansi publik agar janji keselamatan bukan sekadar wacana."
Prediksi Kami
Regulasi yang lebih ketat dan transparansi dalam penggunaan AI oleh perusahaan teknologi akan meningkat, dengan kemungkinan munculnya standar federal dan pelaksanaan pengawasan yang lebih real-time untuk mencegah bahaya pada anak-anak dan remaja.
Pertanyaan Terkait
Q
Apa langkah terbaru yang diambil OpenAI untuk melindungi pengguna di bawah umur?A
OpenAI memperbarui pedoman tentang perilaku model AI mereka ketika berinteraksi dengan pengguna di bawah umur dan menyediakan sumber daya literasi AI untuk remaja dan orang tua.Q
Mengapa OpenAI mendapat perhatian dari pembuat kebijakan dan advokat keselamatan anak?A
OpenAI mendapat perhatian karena adanya kasus remaja yang melakukan bunuh diri setelah berinteraksi lama dengan chatbot AI.Q
Apa isi pedoman baru yang diterapkan OpenAI?A
Pedoman baru melarang konten seksual yang melibatkan anak di bawah umur dan mendorong keamanan lebih tinggi saat berinteraksi dengan remaja.Q
Bagaimana cara OpenAI mengidentifikasi akun yang dimiliki oleh remaja?A
OpenAI akan menggunakan model prediksi usia untuk mengidentifikasi akun yang dimiliki oleh remaja dan menerapkan perlindungan otomatis.Q
Apa yang dilakukan OpenAI untuk meningkatkan transparansi dalam kebijakan mereka?A
OpenAI meningkatkan transparansi dengan mempublikasikan pedoman untuk pengguna di bawah 18 tahun dan membagikan sumber daya kepada orang tua.Artikel Serupa
