Courtesy of TheVerge

California Usulkan Regulasi AI Baru yang Lebih Transparan dan Aman

Mengusulkan kerangka kebijakan yang mendorong transparansi, pengawasan independen, serta perlindungan dan mitigasi risiko AI yang kuat tanpa menghambat inovasi di California.

17 Jun 2025, 23.07 WIB

29 dibaca

Ikhtisar 15 Detik

Kebijakan AI di California perlu menyeimbangkan inovasi dan pengurangan risiko.
Evaluasi pihak ketiga sangat penting untuk mengidentifikasi dan mengelola risiko yang terkait dengan AI.
Transparansi dalam pengembangan AI harus ditingkatkan untuk memastikan keamanan dan akuntabilitas.

California, Amerika Serikat - Setelah gubernur California memveto RUU yang mengatur pengujian bahaya AI besar, sebuah tim ahli dari universitas ternama di California merilis laporan baru. Laporan ini mengusulkan kerangka kerja yang lebih fleksibel dan transparan untuk mengatur pengembangan AI generatif agar tetap inovatif namun aman.

Para ahli menyatakan bahwa kemampuan model AI berkembang sangat cepat, dan ada risiko serius terhadap senjata kimia, biologi, radiologi, dan nuklir. Karena itu, pengaturan hanya berdasarkan biaya pelatihan AI tidak cukup. Evaluasi risiko awal dan dampak nyata penggunaan AI di dunia penting dilakukan.

Saat ini, sulit untuk mendapatkan transparansi dari perusahaan AI tentang data, pengujian, dan keamanan yang diterapkan. Laporan mengajak adanya perlindungan bagi whistleblower dan evaluasi independen oleh pihak ketiga yang mendapat akses memadai untuk menilai risiko AI secara objektif.

Mereka juga membahas pentingnya kebijakan di tingkat negara bagian harus harmonis dan tidak kontradiktif agar tidak membingungkan industri. California diharapkan bisa memimpin pemberlakuan standar kebijakan yang disepakati bersama oleh berbagai negara bagian di Amerika Serikat.

Meskipun perusahaan AI seperti OpenAI mencoba memfasilitasi pengujian, akses yang diberikan sering terbatas. Laporan ini mendesak perubahan kebijakan dan pengaturan agar pengujian independen dapat berjalan efektif, serta pelaporan dampak negatif AI dapat dilakukan dengan baik.

Sumber: https://theverge.com/ai-artificial-intelligence/688301/california-is-trying-to-regulate-its-ai-giants-again

Pertanyaan Terkait

Apa yang terjadi dengan Senate Bill 1047 di California?

Senate Bill 1047 dim veto oleh Gubernur Gavin Newsom setelah dianggap terlalu ketat dan tidak sesuai untuk semua model AI.

Siapa yang memimpin laporan tentang kebijakan frontier AI di California?

Laporan tentang kebijakan frontier AI dipimpin oleh Fei-Fei Li, Mariano-Florentino Cuéllar, dan Jennifer Tour Chayes.

Mengapa transparansi dan evaluasi pihak ketiga penting dalam kebijakan AI?

Transparansi dan evaluasi pihak ketiga penting untuk memastikan bahwa model AI aman dan dapat dibuktikan, serta untuk menghindari risiko yang tidak terdeteksi.

Apa saja risiko yang terkait dengan model AI yang besar?

Risiko yang terkait dengan model AI yang besar termasuk potensi untuk menyebabkan kerugian yang parah dan tidak dapat diubah, serta kontribusi terhadap risiko senjata CBRN.

Apa rekomendasi utama dari laporan terbaru mengenai regulasi AI?

Rekomendasi utama dari laporan tersebut termasuk perlunya perlindungan bagi whistleblower, evaluasi oleh pihak ketiga, dan transparansi informasi kepada publik.