Courtesy of TechCrunch

OpenAI Ubah Kebijakan Moderasi, ChatGPT Kini Bisa Buat Gambar Sensitif

28 Mar 2025, 23.13 WIB

85 dibaca

Ikhtisar 15 Detik

OpenAI telah meluncurkan generator gambar baru yang dapat membuat gambar bergaya Studio Ghibli.
Kebijakan moderasi konten OpenAI kini lebih fleksibel, memungkinkan pembuatan gambar figur publik dan simbol kebencian dalam konteks tertentu.
Perubahan ini mencerminkan upaya OpenAI untuk memberikan lebih banyak kontrol kepada pengguna dan mengurangi 'sensor' dalam penggunaan AI.

Minggu ini, OpenAI meluncurkan generator gambar baru dalam ChatGPT yang dapat membuat gambar dengan gaya Studio Ghibli. Selain itu, kemampuan baru ini juga meningkatkan fitur pengeditan gambar, rendering teks, dan representasi spasial. Salah satu perubahan penting adalah kebijakan moderasi konten yang kini memungkinkan ChatGPT untuk menghasilkan gambar yang menggambarkan tokoh publik, simbol kebencian, dan fitur rasial, yang sebelumnya ditolak karena dianggap kontroversial.

Joanne Jang, pemimpin perilaku model OpenAI, menjelaskan bahwa mereka beralih dari penolakan total terhadap permintaan sensitif menjadi pendekatan yang lebih tepat untuk mencegah bahaya di dunia nyata. OpenAI ingin memberikan lebih banyak kontrol kepada pengguna dan tidak ingin menjadi penentu siapa yang boleh atau tidak boleh digambarkan oleh ChatGPT. Pengguna juga memiliki opsi untuk menolak jika mereka tidak ingin digambarkan.

Meskipun OpenAI melonggarkan beberapa aturan, mereka tetap memiliki batasan untuk mencegah penyalahgunaan, terutama dalam menghasilkan gambar anak-anak. Perubahan ini muncul di tengah kritik terhadap moderasi konten AI dan bisa memicu perdebatan lebih lanjut tentang bagaimana teknologi ini seharusnya digunakan.

--------------------

Analisis Kami: OpenAI tampaknya sedang menguji batasan kebebasan kreatif dan kontrol moral dalam AI yang dapat memicu perdebatan etis serius di masyarakat. Meski teknologi makin mumpuni, membuka lapang untuk konten sensitif tetap memerlukan pengawasan ketat agar tidak memicu kerusakan sosial yang lebih luas.

--------------------

Analisis Ahli:

Joanne Jang: Pendekatan moderasi yang lebih presisi dapat mengurangi larangan berlebihan sekaligus meminimalkan risiko nyata di dunia nyata.

Jim Jordan: Kekhawatiran terhadap kolusi pemerintah dan perusahaan teknologi dapat menunjukkan risiko politisasi moderasi konten AI.

--------------------

What's Next: Perubahan kebijakan moderasi ini bisa menimbulkan kontroversi dan tekanan regulasi lebih besar terhadap OpenAI akibat potensi penyalahgunaan konten sensitif serta akibat politik dari penggunaan AI di ranah publik.

Referensi:
[1] https://techcrunch.com/2025/03/28/openai-peels-back-chatgpts-safeguards-around-image-creation/

Pertanyaan Terkait

Apa yang diluncurkan OpenAI minggu ini?

OpenAI meluncurkan generator gambar baru dalam ChatGPT yang dapat membuat gambar bergaya Studio Ghibli.

Apa perubahan utama dalam kebijakan moderasi konten OpenAI?

Perubahan utama adalah bahwa ChatGPT sekarang dapat menghasilkan gambar figur publik, simbol kebencian, dan karakteristik rasial atas permintaan.

Siapa saja figur publik yang sekarang dapat digambarkan oleh ChatGPT?

Figur publik seperti Donald Trump dan Elon Musk sekarang dapat digambarkan oleh ChatGPT.

Apa tujuan dari perubahan kebijakan moderasi konten ini?

Tujuan dari perubahan ini adalah untuk mencegah bahaya dunia nyata dan memberikan lebih banyak kontrol kepada pengguna.

Bagaimana OpenAI menjelaskan perubahan ini terkait dengan kontrol pengguna?

OpenAI menyatakan bahwa perubahan ini mencerminkan keyakinan lama untuk memberikan lebih banyak kontrol kepada pengguna dan teknologi mereka kini cukup baik untuk menangani subjek sensitif.