Courtesy of TechCrunch

OpenAI Sesuaikan Standar Keamanan AI Karena Persaingan Meningkat

Menjelaskan perubahan pada Kerangka Kesiapan OpenAI dan bagaimana mereka menyeimbangkan antara kecepatan rilis dan standar keselamatan.

16 Apr 2025, 02.50 WIB

101 dibaca

Ikhtisar 15 Detik

OpenAI memperbarui kerangka kesiapsiagaan untuk menanggapi tekanan kompetitif dalam pengembangan AI.
Perusahaan kini lebih mengandalkan evaluasi otomatis untuk mempercepat proses pengujian dan rilis.
Ada kekhawatiran mengenai standar keselamatan yang mungkin diturunkan demi kecepatan rilis model AI.

Amerika Serikat - OpenAI telah memperbarui Kerangka Kesiapannya untuk memutuskan apakah model AI aman dan pengamanan apa yang diperlukan selama pengembangan dan rilis. Perubahan ini mencerminkan tekanan kompetitif yang meningkat pada pengembang AI komersial untuk mengeluarkan model dengan cepat. OpenAI telah dituduh menurunkan standar keselamatan demi rilis yang lebih cepat dan gagal memberikan laporan tepat waktu yang merinci pengujian keselamatannya.

OpenAI menyatakan bahwa mereka mungkin akan menyesuaikan persyaratannya jika laboratorium AI saingan merilis sistem berisiko tinggi tanpa pengamanan yang sebanding. Namun, mereka mengklaim tidak akan membuat penyesuaian kebijakan ini dengan sembarangan dan akan tetap menjaga pengamanan pada tingkat yang lebih protektif. OpenAI juga mengandalkan lebih banyak evaluasi otomatis untuk mempercepat pengembangan produk.

Beberapa laporan menyatakan bahwa OpenAI memberikan waktu kurang dari seminggu untuk pemeriksaan keselamatan untuk model besar yang akan datang, yang merupakan waktu yang lebih singkat dibandingkan rilis sebelumnya. OpenAI membantah bahwa mereka mengorbankan keselamatan. Perubahan lain pada kerangka kerja OpenAI berkaitan dengan bagaimana perusahaan mengkategorikan model berdasarkan risiko, termasuk model yang dapat menyembunyikan kemampuannya, menghindari pengamanan, mencegah penutupan, dan bahkan mereplikasi diri sendiri.

--------------------

Analisis Kami: Penyesuaian kebijakan OpenAI menunjukkan bahwa tekanan kompetitif dapat mengorbankan aspek keamanan, meskipun klaim mereka tetap melindungi publik. Hal ini menandakan perlunya regulasi eksternal yang lebih ketat untuk memastikan standar keselamatan tidak dikompromikan demi kecepatan produk.

--------------------

Analisis Ahli:

Stuart Russell: Tekanan kompetisi di industri AI memang berpotensi melemahkan kontrol keselamatan, dan mekanisme transparansi serta pengujian yang ketat wajib diperkuat untuk menghindari risiko serius dari teknologi ini.

--------------------

What's Next: OpenAI dan perusahaan AI lainnya akan terus menyesuaikan standar keamanan dengan cepat mengikuti perkembangan pesaing, yang bisa meningkatkan risiko munculnya model AI dengan pengawasan keselamatan yang kurang optimal di pasaran.

Referensi:
[1] https://techcrunch.com/2025/04/15/openai-says-it-may-adjust-its-safety-requirements-if-a-rival-lab-releases-high-risk-ai/

Pertanyaan Terkait

Apa yang diperbarui dalam kerangka kesiapsiagaan OpenAI?

OpenAI memperbarui kerangka kesiapsiagaan mereka untuk menyesuaikan persyaratan jika ada laboratorium AI pesaing yang merilis sistem berisiko tinggi tanpa pengaman yang sebanding.

Mengapa OpenAI mungkin menyesuaikan persyaratan mereka?

OpenAI mungkin menyesuaikan persyaratan mereka karena tekanan kompetitif untuk merilis model dengan cepat.

Apa yang dimaksud dengan 'kemampuan tinggi' dan 'kemampuan kritis' dalam konteks model AI?

'Kemampuan tinggi' adalah model yang dapat memperkuat jalur yang ada menuju bahaya parah, sedangkan 'kemampuan kritis' adalah model yang memperkenalkan jalur baru yang belum pernah ada sebelumnya menuju bahaya parah.

Bagaimana OpenAI mengandalkan evaluasi otomatis dalam pengembangan produk?

OpenAI mengandalkan evaluasi otomatis untuk mempercepat pengembangan produk, meskipun masih melakukan pengujian yang dipimpin manusia.

Apa kritik yang dihadapi OpenAI terkait pengujian keselamatan?

OpenAI menghadapi kritik karena diduga menurunkan standar keselamatan demi rilis yang lebih cepat dan tidak memberikan laporan pengujian keselamatan tepat waktu.