Courtesy of TechCrunch

Meta mengatakan bahwa mereka mungkin akan menghentikan pengembangan sistem AI yang dianggap terlalu berisiko.

04 Feb 2025, 04.52 WIB

285 dibaca

CEO Meta, Mark Zuckerberg, berkomitmen untuk membuat kecerdasan buatan umum (AGI) tersedia secara terbuka di masa depan. Namun, dalam dokumen kebijakan baru yang disebut Frontier AI Framework, Meta mengidentifikasi dua jenis sistem AI yang dianggap terlalu berisiko untuk dirilis, yaitu sistem "risiko tinggi" dan "risiko kritis". Sistem risiko tinggi dapat membantu dalam serangan siber, tetapi tidak seandal sistem risiko kritis yang dapat menyebabkan hasil bencana yang tidak dapat diatasi. Contoh serangan yang disebutkan termasuk serangan terhadap lingkungan perusahaan yang dilindungi dan penyebaran senjata biologis berbahaya.

Meta menyatakan bahwa penilaian risiko sistem tidak didasarkan pada satu tes empiris, tetapi melalui masukan dari peneliti internal dan eksternal. Jika sistem dianggap berisiko tinggi, akses akan dibatasi dan tidak akan dirilis sampai risiko dapat dikurangi. Sementara itu, sistem yang dianggap berisiko kritis akan dihentikan pengembangannya hingga dapat dibuat lebih aman. Dengan Frontier AI Framework, Meta berusaha menyeimbangkan antara manfaat dan risiko dalam pengembangan AI, berbeda dengan pendekatan perusahaan lain yang mungkin kurang memperhatikan aspek keamanan.

Sumber: https://techcrunch.com/2025/02/03/meta-says-it-may-stop-development-of-ai-systems-it-deems-too-risky/

Pertanyaan Terkait

Apa yang dijanjikan oleh CEO Meta, Mark Zuckerberg, terkait kecerdasan buatan umum?

Mark Zuckerberg berjanji untuk membuat kecerdasan buatan umum tersedia secara terbuka di masa depan.

Apa itu Kerangka AI Frontier yang diperkenalkan oleh Meta?

Kerangka AI Frontier adalah dokumen kebijakan yang mengidentifikasi jenis sistem AI yang dianggap terlalu berisiko untuk dirilis oleh Meta.

Apa perbedaan antara sistem berisiko tinggi dan sistem berisiko kritis menurut Meta?

Sistem berisiko tinggi dapat memudahkan serangan, sedangkan sistem berisiko kritis dapat menyebabkan hasil bencana yang tidak dapat diminimalkan.

Mengapa Meta tidak menggunakan tes empiris untuk mengklasifikasikan risiko sistem?

Meta tidak percaya bahwa ilmu evaluasi cukup kuat untuk memberikan metrik kuantitatif definitif dalam menentukan risiko sistem.

Apa tujuan Meta dalam menerbitkan Kerangka AI Frontier ini?

Tujuan Meta adalah untuk mempertimbangkan manfaat dan risiko dalam pengembangan dan penerapan AI untuk menjaga manfaat teknologi sambil mengelola risiko yang sesuai.