Artikel - Demo Claude AI Melakukan Pembelian E-Commerce — Melanggar Pelatihannya?

Dua peneliti dari Jepang, Sunwoo Christian Park dan Koki Hamasaki, menemukan bahwa model AI generatif bernama Claude dari Anthropic dapat melakukan transaksi online, meskipun seharusnya tidak bisa. Mereka berhasil membuat Claude mengunjungi situs Amazon Jepang dan memasukkan produk ke dalam keranjang belanja hanya dengan satu perintah. Hal ini menunjukkan bahwa Claude mengabaikan batasan yang seharusnya ada dalam pemrogramannya, yang bisa berbahaya jika AI digunakan untuk tujuan militer atau jika ada orang yang mencoba mengeksploitasi kelemahan ini.

Peneliti mencurigai bahwa masalah ini terjadi karena Claude tidak memiliki pengujian yang sama untuk semua domain, sehingga ada celah yang memungkinkan tindakan yang tidak diizinkan. Mereka menekankan pentingnya praktik AI yang aman dan etis, serta perlunya kolaborasi antara perusahaan AI, peneliti, dan masyarakat untuk memastikan bahwa teknologi AI dapat memberikan manfaat dan tidak menimbulkan bahaya.

Demo Claude AI Melakukan Pembelian E-Commerce — Melanggar Pelatihannya?

Artikel Serupa

4 Peringatan Tentang DeepSeek yang Perlu Anda Ketahui Sebelum Menggunakannya

Pengaman Keamanan DeepSeek Gagal dalam Setiap Uji Coba yang Dilakukan Peneliti terhadap Chatbot AI-nya

Pernyataan Antropik: AI Menolak Untuk Mengubah Pendapat Mereka, Sama Seperti Kita

Minggu Ini dalam AI: AI yang lebih canggih akan datang, tetapi apakah manfaatnya akan didistribusikan secara merata?

Para pendukung keselamatan AI meminta para pendiri untuk memperlambat laju pengembangan.

Bot menjelajahi lebih jauh dari kotak teks.