Courtesy of TechCrunch
Yoshua Bengio Dirikan LawZero untuk Bangun AI yang Lebih Aman dan Bertanggung Jawab
Membangun sistem kecerdasan buatan yang lebih aman untuk melindungi umat manusia dari risiko besar yang mungkin ditimbulkan oleh AI yang sangat cerdas.
04 Jun 2025, 00.33 WIB
86 dibaca
Share
Ikhtisar 15 Detik
- Yoshua Bengio mendirikan LawZero untuk fokus pada keamanan AI.
- LawZero mendapatkan dukungan finansial dari tokoh-tokoh penting di dunia teknologi.
- Kekhawatiran Bengio terhadap OpenAI dan Google menunjukkan tantangan dalam pengembangan AI yang aman.
California, Amerika Serikat - Yoshua Bengio, pemenang penghargaan Turing dan tokoh penting dalam perkembangan kecerdasan buatan modern, mengumumkan pembentukan laboratorium nirlaba baru bernama LawZero yang fokus pada keselamatan AI. Laboratorium ini bertujuan menciptakan sistem AI yang lebih aman untuk mengurangi risiko negatif yang mungkin terjadi.
LawZero mendapatkan dana awal sebesar 30 juta dolar dari berbagai donatur, termasuk Jaan Tallinn, Eric Schmidt, Open Philanthropy, dan Future of Life Institute. Nama LawZero terinspirasi dari hukum robotika fiksi ilmiah yang menempatkan perlindungan manusia sebagai prioritas utama.
Bengio mengungkapkan bahwa ia kurang percaya pada perusahaan-perusahaan besar seperti OpenAI dan Google untuk menempatkan keselamatan sebagai fokus utama dalam pengembangan AI yang semakin canggih. Ia mengingatkan pentingnya aturan dan regulasi ketat dalam pengembangan teknologi ini.
Selain mendirikan LawZero, Bengio juga secara terbuka mendukung undang-undang California, SB-1047, yang bertujuan mencegah kecelakaan atau skenario bencana yang bisa disebabkan oleh teknologi AI yang tidak terkendali.
Langkah yang diambil oleh Bengio ini menjadi bagian dari gerakan global untuk memastikan bahwa teknologi AI berkembang secara bertanggung jawab dan aman, sehingga dapat membawa manfaat besar tanpa menimbulkan ancaman serius untuk umat manusia.
Pertanyaan Terkait
Q
Siapa yang meluncurkan lab keamanan AI bernama LawZero?A
Yoshua Bengio meluncurkan lab keamanan AI bernama LawZero.Q
Apa yang menjadi tujuan dari LawZero?A
Tujuan dari LawZero adalah untuk mengembangkan sistem AI yang lebih aman.Q
Berapa banyak dana yang berhasil dikumpulkan LawZero?A
LawZero berhasil mengumpulkan dana sebesar $30 juta.Q
Mengapa Yoshua Bengio tidak percaya pada OpenAI dan Google terkait keamanan AI?A
Yoshua Bengio tidak percaya bahwa OpenAI dan Google akan memprioritaskan keamanan dalam pengembangan sistem AI yang semakin cerdas.Q
Apa yang dimaksud dengan Zeroth Law of Robotics?A
Zeroth Law of Robotics adalah konsep yang menempatkan perlindungan umat manusia di atas segalanya.Artikel Serupa
Teknologi
2 bulan lalu
97 dibaca
Kelompok yang dipimpin bersama oleh Fei-Fei Li menyarankan bahwa undang-undang keselamatan AI harus mengantisipasi risiko di masa depan.
Teknologi
3 bulan lalu
146 dibaca
Pemenang Turing Award terbaru kembali memperingatkan tentang bahaya AI.
Teknologi
4 bulan lalu
144 dibaca
CEO OpenAI Sam Altman mengakui bahwa manfaat AI mungkin tidak akan didistribusikan secara luas.
Bisnis
4 bulan lalu
139 dibaca
Prompt: Resepsionis AI Menjawab Panggilan untuk Pemilik Usaha Kecil
Bisnis
5 bulan lalu
88 dibaca
Peneliti AI François Chollet mendirikan laboratorium AI baru yang fokus pada AGI.
Teknologi
5 bulan lalu
170 dibaca