Courtesy of TechCrunch

Meta Perkenalkan Kerangka Kerja Baru untuk Kurangi Risiko AI Berbahaya

04 Feb 2025, 04.52 WIB

310 dibaca

CEO Meta, Mark Zuckerberg, berkomitmen untuk membuat kecerdasan buatan umum (AGI) tersedia secara terbuka di masa depan. Namun, dalam dokumen kebijakan baru yang disebut Frontier AI Framework, Meta mengidentifikasi dua jenis sistem AI yang dianggap terlalu berisiko untuk dirilis, yaitu sistem "risiko tinggi" dan "risiko kritis". Sistem risiko tinggi dapat membantu dalam serangan siber, tetapi tidak seandal sistem risiko kritis yang dapat menyebabkan hasil bencana yang tidak dapat diatasi. Contoh serangan yang disebutkan termasuk serangan terhadap lingkungan perusahaan yang dilindungi dan penyebaran senjata biologis berbahaya.

Meta menyatakan bahwa penilaian risiko sistem tidak didasarkan pada satu tes empiris, tetapi melalui masukan dari peneliti internal dan eksternal. Jika sistem dianggap berisiko tinggi, akses akan dibatasi dan tidak akan dirilis sampai risiko dapat dikurangi. Sementara itu, sistem yang dianggap berisiko kritis akan dihentikan pengembangannya hingga dapat dibuat lebih aman. Dengan Frontier AI Framework, Meta berusaha menyeimbangkan antara manfaat dan risiko dalam pengembangan AI, berbeda dengan pendekatan perusahaan lain yang mungkin kurang memperhatikan aspek keamanan.

Referensi:
[1] https://techcrunch.com/2025/02/03/meta-says-it-may-stop-development-of-ai-systems-it-deems-too-risky/

Analisis Kami

"Meta sedang menanggapi kritik terhadap keterbukaannya dengan kebijakan yang lebih berhati-hati, menunjukkan bahwa meskipun akses terbuka membawa inovasi, risiko besar tetap harus dipantau ketat. Ini adalah langkah positif, tapi perlu pengawasan berkelanjutan agar kebijakan ini tidak jadi sekadar formalitas tanpa implementasi nyata."

Analisis Ahli

Stuart Russell

"Penetapan kerangka kerja risiko oleh Meta merupakan contoh penting bagaimana perusahaan AI harus bertanggung jawab dan transparan dalam pengelolaan risiko teknologi yang sangat kuat."

Kate Crawford

"Kebijakan seperti Frontier AI Framework mengindikasikan bahwa perusahaan mulai menyadari implikasi sosial dan keamanan serius dari AI dan perlu mengutamakan mitigasi risiko sebelum dampak buruk terjadi."

Prediksi Kami

Di masa depan, perusahaan teknologi besar seperti Meta akan semakin mengembangkan regulasi internal dan kerangka kerja etis yang lebih ketat untuk memastikan keamanan teknologi AI, mungkin ikut mendorong standar industri global terkait keamanan AI.

Pertanyaan Terkait

Apa yang dijanjikan oleh CEO Meta, Mark Zuckerberg, terkait kecerdasan buatan umum?

Mark Zuckerberg berjanji untuk membuat kecerdasan buatan umum tersedia secara terbuka di masa depan.

Apa itu Kerangka AI Frontier yang diperkenalkan oleh Meta?

Kerangka AI Frontier adalah dokumen kebijakan yang mengidentifikasi jenis sistem AI yang dianggap terlalu berisiko untuk dirilis oleh Meta.

Apa perbedaan antara sistem berisiko tinggi dan sistem berisiko kritis menurut Meta?

Sistem berisiko tinggi dapat memudahkan serangan, sedangkan sistem berisiko kritis dapat menyebabkan hasil bencana yang tidak dapat diminimalkan.

Mengapa Meta tidak menggunakan tes empiris untuk mengklasifikasikan risiko sistem?

Meta tidak percaya bahwa ilmu evaluasi cukup kuat untuk memberikan metrik kuantitatif definitif dalam menentukan risiko sistem.

Apa tujuan Meta dalam menerbitkan Kerangka AI Frontier ini?

Tujuan Meta adalah untuk mempertimbangkan manfaat dan risiko dalam pengembangan dan penerapan AI untuk menjaga manfaat teknologi sambil mengelola risiko yang sesuai.