Courtesy of InterestingEngineering

Google Ubah Prinsip AI, Fokus pada Keamanan Nasional dan Kontrak Pemerintah

05 Feb 2025, 20.33 WIB

298 dibaca

Google baru-baru ini mengubah prinsip-prinsip kecerdasan buatan (AI) mereka dengan menghapus janji untuk tidak menggunakan AI untuk tujuan berbahaya, seperti senjata dan pengawasan. Sebelumnya, Google berkomitmen untuk tidak mengembangkan teknologi yang dapat menyebabkan kerugian bagi manusia. Namun, dalam pembaruan terbaru, perusahaan ini lebih fokus pada potensi manfaat AI, terutama dalam sektor keamanan nasional, dan menyatakan bahwa mereka akan melanjutkan proyek-proyek yang dianggap memberikan manfaat lebih besar dibandingkan risiko yang ada. Perubahan ini terjadi di tengah persaingan global antara Amerika Serikat dan China dalam pengembangan AI.

Meskipun ada perubahan ini, banyak karyawan Google yang merasa khawatir dan menentang langkah-langkah baru tersebut. Mereka sebelumnya telah memprotes proyek-proyek yang dianggap dapat memicu militerisasi AI, seperti Project Maven dan Project Nimbus, yang melibatkan penyediaan layanan AI untuk pemerintah Israel. Meskipun ada penolakan dari karyawan, eksekutif Google tetap melanjutkan kontrak tersebut, yang menimbulkan ketegangan di dalam perusahaan. Google tetap berkomitmen untuk menggunakan AI dalam mendukung pertumbuhan global dan keamanan nasional, serta mendorong kolaborasi antara perusahaan dan pemerintah yang memiliki nilai-nilai yang sama.

--------------------

Analisis Kami: Perubahan prinsip AI Google menandai pergeseran yang signifikan dari nilai etis yang sangat dijunjung tinggi ke strategi bisnis yang lebih pragmatis dan berorientasi pada geopolitik. Ini mengindikasikan bahwa tekanan pasar dan persaingan global dapat mendorong perusahaan teknologi besar mengorbankan prinsip kemanusiaan demi keuntungan dan dominasi teknologi.

--------------------

Analisis Ahli:

Shyam Sankar: Pemenang perlombaan AI akan membutuhkan upaya menyeluruh dari seluruh negara dan ekosistemnya.

Demis Hassabis: Demokrasi harus memimpin pengembangan AI dengan nilai kebebasan, kesetaraan, dan hormat terhadap hak asasi manusia.

--------------------

What's Next: Ke depan, Google kemungkinan besar akan lebih agresif dalam mengembangkan dan menawarkan teknologi AI untuk tujuan militer dan keamanan nasional, yang bisa memperburuk ketegangan internal perusahaan dan meningkatkan risiko kontroversi serta kritik dari masyarakat dan kelompok HAM.

Referensi:
[1] https://interestingengineering.com/culture/google-backpedals-ai-harmful-use

Pertanyaan Terkait

Apa perubahan signifikan yang dilakukan Google terhadap prinsip AI-nya?

Google menghapus janji untuk tidak menggunakan AI untuk tujuan berbahaya seperti senjata dan pengawasan.

Mengapa Google mengubah prinsip AI-nya?

Perubahan ini dilakukan untuk memposisikan Google dalam peran yang lebih besar di industri AI dan memenuhi permintaan yang meningkat untuk layanan AI.

Apa itu Project Maven dan mengapa proyek ini kontroversial?

Project Maven adalah inisiatif pemerintah AS yang menggunakan AI untuk menganalisis rekaman drone, dan proyek ini kontroversial karena karyawan khawatir tentang militerisasi AI.

Apa yang terjadi dengan Project Nimbus dan mengapa itu menjadi masalah bagi karyawan Google?

Project Nimbus adalah kontrak untuk menyediakan layanan cloud kepada pemerintah Israel, dan menjadi masalah karena potensi penggunaan AI untuk pengawasan dan aplikasi militer.

Apa pandangan Demis Hassabis tentang pengembangan AI di masa depan?

Demis Hassabis percaya bahwa demokrasi harus memimpin dalam pengembangan AI dengan nilai-nilai inti seperti kebebasan dan hak asasi manusia.