Courtesy of NatureMagazine
Model Bahasa Besar Bisa Membentuk Aturan dan Bias Sosial Saat Berinteraksi Bersama
Meneliti dan menunjukkan bahwa model bahasa besar saat berinteraksi secara berkelompok dapat mengembangkan norma sosial dan bias kolektif, serta pentingnya menguji LLM dalam kelompok untuk memperbaiki perilaku mereka.
15 Mei 2025, 07.00 WIB
33 dibaca
Share
Ikhtisar 15 Detik
- Model bahasa besar dapat mengembangkan norma sosial melalui interaksi dalam kelompok.
- Persepsi dan pilihan individu dapat dipengaruhi oleh interaksi dengan model lain, menciptakan bias kolektif.
- Pengujian model bahasa besar dalam konteks kelompok diperlukan untuk memahami dan mengatasi potensi bias dalam sistem AI.
San Francisco, California, United States - Para peneliti menemukan bahwa model bahasa besar seperti Claude dan Llama bisa mengembangkan norma sosial saat mereka berinteraksi dalam grup dengan melakukan permainan sederhana. Dalam eksperimen, model-model ini diminta memilih huruf dari beberapa opsi dan mendapat hadiah jika memilih huruf yang sama dengan pasangan mereka.
Dengan mengulang permainan ini berkali-kali dan mengganti pasangan secara acak, model mulai memberikan jawaban yang sama untuk huruf yang dipilih. Ini mirip dengan proses pembentukan aturan sosial dalam kelompok manusia, seperti ketika orang mulai menggunakan kata yang sama atau salam yang sama dalam kelompok mereka.
Ketika jumlah model yang berinteraksi ditingkatkan sampai ratusan, ternyata mereka mulai memfavoritkan beberapa huruf tertentu lebih sering daripada yang lain, walaupun secara individu pemilihan hurufnya acak. Ini menunjukkan bahwa ia mengembangkan bias kolektif yang biasa kita temukan dalam interaksi sosial manusia.
Penemuan ini menarik karena menunjukkan bahwa AI pun memiliki potensi membentuk bias secara kelompok, yang bisa berbahaya jika bias tersebut merugikan. Oleh karena itu, peneliti menyarankan agar model-model AI diuji tidak hanya secara individual tapi juga dalam kelompok untuk memastikan perilaku yang lebih adil dan terkendali.
Studi ini membuka pintu baru dalam memahami bagaimana sistem AI bisa meniru aspek sosial manusia dan memberikan wawasan penting untuk pengembangan AI yang lebih aman di masa depan melalui pengujian interaksi kelompok.
Pertanyaan Terkait
Q
Apa yang diteliti dalam studi ini?A
Studi ini meneliti bagaimana model bahasa besar dapat mengembangkan norma sosial saat berinteraksi dalam kelompok.Q
Siapa penulis utama dari penelitian ini?A
Penulis utama dari penelitian ini adalah Andrea Baronchelli.Q
Apa yang terjadi saat model bahasa besar bermain permainan penamaan?A
Saat model bahasa besar bermain permainan penamaan, mereka mulai memberi nama yang sama untuk objek setelah beberapa putaran permainan.Q
Apa yang dimaksud dengan bias kolektif dalam konteks penelitian ini?A
Bias kolektif merujuk pada keyakinan atau asumsi yang muncul ketika individu berinteraksi dalam kelompok, yang dapat berpotensi menjadi bias yang merugikan.Q
Mengapa penting untuk menguji model bahasa besar dalam kelompok?A
Penting untuk menguji model bahasa besar dalam kelompok untuk meningkatkan perilaku mereka dan mengurangi bias.Artikel Serupa
Teknologi
29 hari lalu
109 dibaca
Meta Berusaha Menghilangkan Bias AI: Tantangan dan Kontroversi
Teknologi
2 bulan lalu
55 dibaca
Chatbots, seperti kita semua, hanya ingin dicintai.
Teknologi
3 bulan lalu
88 dibaca
Apa saja alat AI terbaik untuk penelitian? Panduan Nature.
Teknologi
3 bulan lalu
120 dibaca
Para ilmuwan mengusulkan untuk membuat permainan rasa sakit-kesenangan bagi AI untuk menguji kesadaran.
Teknologi
3 bulan lalu
212 dibaca
Model AI murah dan terbuka dari China, DeepSeek, menggembirakan para ilmuwan.
Teknologi
4 bulan lalu
118 dibaca