Courtesy of TechCrunch

Mantan Peneliti Kritik OpenAI soal Strategi Peluncuran AI dan Risiko Keamanan

07 Mar 2025, 00.09 WIB

140 dibaca

Ikhtisar 15 Detik

Kritik terhadap OpenAI menunjukkan ketidakpuasan terhadap pendekatan mereka terhadap keamanan AI.
Pentingnya pendekatan bertahap dalam pengembangan dan penerapan sistem AI untuk mengurangi risiko.
Tekanan kompetitif dapat mempengaruhi keputusan perusahaan dalam hal keamanan dan tanggung jawab.

Miles Brundage, seorang mantan peneliti kebijakan di OpenAI, mengkritik perusahaan tersebut karena mengubah cara pandang mereka tentang peluncuran sistem AI yang berisiko. OpenAI baru-baru ini merilis dokumen yang menjelaskan filosofi mereka tentang keselamatan dan keselarasan AI, menyatakan bahwa pengembangan AI yang cerdas (AGI) adalah proses yang berkelanjutan. Namun, Brundage berpendapat bahwa saat OpenAI merilis model GPT-2, mereka sudah mengambil langkah hati-hati yang sesuai dengan pendekatan peluncuran bertahap yang mereka sebutkan sekarang.

Brundage merasa bahwa OpenAI seharusnya tidak meremehkan pentingnya kehati-hatian dalam pengembangan AI. Dia khawatir bahwa dokumen tersebut menciptakan anggapan bahwa kekhawatiran tentang risiko AI dianggap berlebihan, dan bahwa perusahaan perlu bukti yang sangat kuat sebelum mengambil tindakan. Dengan meningkatnya tekanan kompetitif dan kerugian finansial yang besar, Brundage mempertanyakan apakah OpenAI seharusnya mempercepat peluncuran produk mereka, meskipun itu bisa mengorbankan keselamatan jangka panjang.

--------------------

Analisis Kami: Kritik Brundage mewakili suara penting yang mengingatkan akan perlunya keseimbangan antara inovasi dengan kehati-hatian dalam menghadirkan teknologi AI canggih ke publik. Jika OpenAI terus menurunkan standar keamanan demi kecepatan, mereka berpotensi menciptakan preseden berbahaya yang bisa memperburuk risiko penyalahgunaan AI di masa depan.

--------------------

Analisis Ahli:

Stuart Russell: Penting untuk mengutamakan keselamatan dalam pengembangan AI agar dampak negatif dapat diminimalisir, jangan sampai persaingan pasar melupakan tanggung jawab etis.

Kate Crawford: Pendekatan transparan dan bertahap dalam peluncuran AI seharusnya menjadi standar karena risiko sosial dan politis dari teknologi ini sangat besar.

Sam Altman: Meskipun persaingan ketat menuntut percepatan inovasi, kita harus tetap menjaga standar keselamatan untuk membangun kepercayaan publik dan menghindari bencana teknologi.

--------------------

What's Next: Tekanan kompetitif dan kebutuhan finansial kemungkinan akan mendorong OpenAI dan perusahaan AI lain untuk semakin mempercepat peluncuran produk baru, yang dapat menyebabkan risiko keamanan AI semakin meningkat jika aspek kehati-hatian dikorbankan.

Referensi:
[1] https://techcrunch.com/2025/03/06/openais-ex-policy-lead-criticizes-the-company-for-rewriting-its-ai-safety-history/

Pertanyaan Terkait

Apa kritik yang disampaikan oleh Miles Brundage terhadap OpenAI?

Miles Brundage mengkritik OpenAI karena dianggap 'menulis ulang sejarah' pendekatan mereka terhadap penerapan sistem AI yang berisiko.

Apa yang dimaksud dengan pendekatan 'iterative deployment' yang diambil oleh OpenAI?

Pendekatan 'iterative deployment' berarti mengembangkan dan menerapkan sistem AI secara bertahap sambil belajar dari setiap iterasi untuk meningkatkan keamanan dan manfaat.

Mengapa OpenAI awalnya tidak merilis kode sumber GPT-2?

OpenAI awalnya tidak merilis kode sumber GPT-2 karena khawatir akan potensi penyalahgunaan model tersebut.

Apa dampak dari kompetisi dengan DeepSeek terhadap strategi OpenAI?

Kompetisi dengan DeepSeek membuat OpenAI merasa perlu untuk mempercepat siklus rilis produk agar tetap bersaing di pasar.

Mengapa Brundage menganggap pendekatan OpenAI saat ini berbahaya?

Brundage menganggap bahwa pendekatan OpenAI saat ini dapat menciptakan beban pembuktian yang berbahaya, di mana kekhawatiran harus didukung oleh bukti yang sangat kuat.