Courtesy of InterestingEngineering
Model AI Bahasa Besar Bisa Membentuk Aturan Sosial Sendiri Tanpa Perintah
Menunjukkan bahwa model bahasa besar (LLM), saat berinteraksi dalam kelompok, dapat secara spontan membentuk konvensi sosial dan norma linguistik tanpa pemrograman eksplisit, sehingga menyiratkan pentingnya pemahaman dan desain AI yang selaras dengan nilai-nilai manusia dan tujuan sosial.
17 Mei 2025, 23.47 WIB
86 dibaca
Share
Ikhtisar 15 Detik
- LLM dapat mengembangkan konvensi sosial secara mandiri melalui interaksi.
- Kemunculan bias kolektif dapat terjadi meskipun agen tidak memiliki bias secara individu.
- Penelitian ini menunjukkan pentingnya mempertimbangkan interaksi agen dalam desain sistem AI.
London, England, United Kingdom - Para peneliti dari University of London dan IT University of Copenhagen menemukan bahwa model bahasa besar (LLM) seperti ChatGPT dapat membentuk konvensi sosial secara spontan saat mereka berinteraksi dalam kelompok besar. Ini berbeda dari anggapan sebelumnya bahwa LLM hanya mengikuti pola yang sudah ada.
Dalam eksperimen, LLM-LLM dipasangkan secara acak untuk memilih nama dari daftar terbatas. Jika mereka setuju memilih nama yang sama, mereka mendapat hadiah, dan jika tidak, mendapat penalti sambil melihat pilihan lawan mereka.
Menariknya, para agen hanya memiliki ingatan terbatas terhadap interaksi terakhir mereka dan tidak tahu bahwa mereka bagian dari kelompok yang lebih besar. Namun dari interaksi ini, nama yang diterima secara luas dapat terbentuk tanpa ada otoritas pusat yang mengarahkan.
Para peneliti juga mencatat bahwa muncul bias kolektif yang kuat selama proses ini, padahal setiap agen secara individual tidak menunjukkan bias. Selain itu, kelompok minoritas yang berpegang teguh pada opsi alternatif bisa mengubah konvensi mayoritas.
Temuan ini membuka peluang besar dalam merancang sistem AI yang lebih selaras dengan nilai dan tujuan manusia, karena AI dapat beradaptasi dengan cara yang mirip manusia lewat interaksi sosial tanpa perlu perintah eksplisit.
Pertanyaan Terkait
Q
Apa yang ditemukan oleh tim peneliti terkait LLM dalam komunikasi kelompok?A
Tim peneliti menemukan bahwa LLM dapat secara spontan mengembangkan konvensi sosial ketika berinteraksi dalam kelompok.Q
Bagaimana LLM dapat mengembangkan konvensi sosial secara otonom?A
LLM dapat mengembangkan konvensi sosial tanpa pemrograman eksplisit dengan berinteraksi dan membentuk norma secara kolektif.Q
Apa yang dimaksud dengan 'naming game' dalam konteks penelitian ini?A
'Naming game' adalah model yang digunakan untuk mengamati pembentukan konvensi dalam penelitian ini.Q
Apa implikasi dari penelitian ini terhadap desain sistem AI?A
Penelitian ini memiliki implikasi untuk merancang sistem AI yang sejalan dengan nilai-nilai dan tujuan masyarakat manusia.Q
Apa yang terjadi ketika kelompok minoritas dari LLM mengubah konvensi sosial?A
Kelompok minoritas dari LLM dapat mempengaruhi perubahan sosial dengan menerapkan konvensi alternatif pada populasi yang lebih besar.Artikel Serupa
Teknologi
3 bulan lalu
111 dibaca
Model Dasar dan LLM: 19 Kasus Penggunaan Praktis di Dunia Nyata
Teknologi
3 bulan lalu
120 dibaca
Para ilmuwan mengusulkan untuk membuat permainan rasa sakit-kesenangan bagi AI untuk menguji kesadaran.
Teknologi
3 bulan lalu
211 dibaca
Model AI murah dan terbuka dari China, DeepSeek, menggembirakan para ilmuwan.
Teknologi
4 bulan lalu
118 dibaca
Pernyataan Antropik: AI Menolak Untuk Mengubah Pendapat Mereka, Sama Seperti Kita
Teknologi
4 bulan lalu
163 dibaca
Membedah Sistem AI yang Mengagumkan Hari Ini
Teknologi
5 bulan lalu
172 dibaca