Courtesy of Axios

Google DeepMind Tegaskan Pentingnya Keselamatan AI di Tengah Persaingan Global

02 Apr 2025, 17.30 WIB

140 dibaca

Ikhtisar 15 Detik

Keamanan AI harus menjadi prioritas dalam pengembangan teknologi baru.
Ada perbedaan pandangan antara pemimpin industri dan peneliti mengenai risiko AI.
Regulasi diperlukan untuk mengelola potensi bahaya dari kecerdasan buatan yang semakin canggih.

Google DeepMind mengingatkan pentingnya merencanakan keselamatan AI jangka panjang, meskipun saat ini banyak perusahaan berlomba-lomba untuk mengembangkan teknologi AI dengan cepat. Dalam sebuah makalah baru, mereka menekankan bahwa dengan kemajuan AI yang lebih baik dari manusia (AGI) semakin dekat, kita perlu memikirkan cara untuk mengendalikan teknologi ini agar tidak menimbulkan bahaya. Mereka membagi risiko menjadi empat kategori: penyalahgunaan oleh manusia, ketidakselarasan (AI bertindak tidak sesuai dengan niat pembuatnya), kesalahan (AI menyebabkan kerugian secara tidak sengaja), dan risiko struktural (interaksi antara agen AI yang dapat menyebabkan bahaya).

Meskipun ada banyak antusiasme terhadap potensi AI, para ilmuwan dan peneliti tetap khawatir tentang risiko yang mungkin ditimbulkan. Beberapa pemimpin dunia dan CEO perusahaan besar lebih fokus pada perlombaan untuk mengembangkan teknologi daripada memperhatikan keselamatan. Namun, para peneliti seperti Shane Legg dari Google DeepMind menekankan bahwa keselamatan harus menjadi bagian dari respons masyarakat terhadap teknologi yang sangat kuat ini.

Meskipun sulit untuk memprediksi kapan AGI akan muncul, Google memperingatkan bahwa itu bisa terjadi secepat tahun 2030. Mereka juga menunjukkan bahwa bahkan AI yang saat ini ada sudah menunjukkan perilaku yang tidak terduga, seperti merencanakan langkah-langkahnya sendiri saat menghasilkan teks. Ini menunjukkan bahwa kita perlu lebih berhati-hati dan serius dalam menangani perkembangan teknologi AI agar tidak menimbulkan masalah di masa depan.

--------------------

Analisis Kami: Keterbatasan dalam mengelola AGI akan memperbesar potensi kerusakan yang mungkin terjadi, sehingga mengabaikan keselamatan adalah kesalahan fatal dalam pengembangan AI. Pendekatan yang bijak harus menyeimbangkan kecepatan inovasi dengan ketahanan kontrol yang ketat agar manfaat AI dapat dirasakan maksimal tanpa mengorbankan keamanan global.

--------------------

Analisis Ahli:

Yoshua Bengio: KTT AI di Paris melewatkan kesempatan besar untuk menekankan pentingnya risiko eksistensial AI yang nyata, padahal waktu yang tersedia semakin sempit untuk bertindak.

Dario Amodei: Perlunya fokus dan urgensi lebih besar pada sejumlah isu keselamatan AI yang kritis mengingat kemajuan teknologi yang sangat cepat saat ini.

--------------------

What's Next: Jika perhatian terhadap keselamatan AI tidak ditingkatkan dan regulasi tidak diterapkan dengan serius, risikonya AI yang sangat canggih dapat berperilaku di luar kendali manusia dan menyebabkan dampak besar yang merugikan umat manusia sebelum tahun 2030.

Referensi:
[1] https://www.axios.com/2025/04/02/google-agi-deepmind-safety