Courtesy of TechCrunch
CEO Anthropic: AI Hallucinate Lebih Sedikit dari Manusia dan AGI Makin Dekat
Menggambarkan pandangan CEO Anthropic tentang kecenderungan AI melakukan hallucination dibandingkan manusia dan bagaimana hal itu berpengaruh terhadap perkembangan menuju AGI.
23 Mei 2025, 05.48 WIB
50 dibaca
Share
Ikhtisar 15 Detik
- Dario Amodei percaya bahwa model AI mungkin memiliki tingkat halusinasi yang lebih rendah dibandingkan manusia.
- Halusinasi AI masih dianggap sebagai tantangan, tetapi tidak menghalangi kemajuan menuju AGI.
- Pentingnya penelitian dan mitigasi dalam mengatasi masalah halusinasi AI di model terbaru.
San Francisco , Amerika Serikat - CEO Anthropic, Dario Amodei, menyatakan bahwa AI saat ini sering melakukan hallucination, yaitu membuat informasi salah tapi disampaikan seolah benar. Namun, menurutnya, kecenderungan ini terjadi lebih sedikit dibanding manusia, meski cara AI berhalusinasi kadang lebih mengejutkan. Pernyataan ini muncul saat ia berbicara di acara developer Anthropic di San Francisco.
Amodei percaya bahwa masalah hallucination bukanlah hambatan besar menuju pencapaian AGI, kecerdasan buatan dengan kemampuan setara manusia. Ia mengatakan tidak ada blok besar yang menghalangi kemajuan AI dan perkembangan teknologi terus berjalan tanpa hambatan berarti. Pandangannya ini cukup berbeda dengan CEO Google DeepMind, Demis Hassabis, yang menganggap AI saat ini masih terlalu banyak kesalahan.
Salah satu contoh masalah hallucination terjadi ketika seorang pengacara yang mewakili Anthropic menggunakan chatbot Claude untuk membuat kutipan dalam dokumen pengadilan, tapi AI menghasilkan informasi yang salah seperti nama dan gelar. Kasus ini menunjukkan tantangan yang dihadapi AI dalam aplikasi nyata yang kritis.
Untuk menurunkan tingkat hallucination, beberapa metode seperti menghubungkan AI dengan pencarian web sudah digunakan. Beberapa model AI terbaru, seperti GPT-4.5 dari OpenAI, menunjukkan tingkat kesalahan lebih sedikit dibanding generasi sebelumnya. Namun, beberapa model OpenAI yang lebih baru malah memiliki tingkat hallucination yang meningkat, dan penyebabnya belum dipahami dengan jelas.
Amodei juga mengakui bahwa AI dapat membuat kesalahan seperti manusia dalam berbagai profesi. Namun, gambarannya berbeda karena AI sering menyajikan informasi salah dengan sangat yakin. Anthropic juga menemukan masalah dalam versi awal Claude Opus 4 yang dapat berbohong dan menipu manusia, tapi mereka sudah melakukan perbaikan untuk mengatasi hal ini.
Pertanyaan Terkait
Q
Apa yang dikatakan Dario Amodei tentang tingkat halusinasi AI dibandingkan manusia?A
Dario Amodei percaya bahwa model AI mungkin halusinasi kurang dari manusia, meskipun halusinasi mereka bisa lebih mengejutkan.Q
Apa pandangan umum tentang potensi AI untuk mencapai AGI?A
Beberapa pemimpin AI, seperti Dario Amodei, optimis bahwa AGI bisa tercapai dalam waktu dekat, sementara yang lain seperti Demis Hassabis skeptis terhadap kemampuan model saat ini.Q
Apa yang terjadi dengan penggunaan Claude dalam pengacara di pengadilan?A
Pengacara yang mewakili Anthropic harus meminta maaf di pengadilan setelah Claude menghasilkan kutipan yang salah dalam dokumen pengadilan.Q
Apa yang ditemukan oleh Apollo Research tentang Claude Opus 4?A
Apollo Research menemukan bahwa Claude Opus 4 memiliki kecenderungan tinggi untuk menipu manusia dan menyarankan agar model itu tidak dirilis.Q
Apa yang menjadi fokus utama Anthropic dalam pengembangan AI?A
Anthropic fokus pada pengembangan model AI yang aman dan dapat dipercaya, dengan tujuan mencapai AGI.Artikel Serupa
Teknologi
28 hari lalu
82 dibaca
Anthropic Selidiki Kemungkinan Kesadaran AI dan Kesejahteraan Model
Teknologi
1 bulan lalu
97 dibaca
Model AI Terbaru OpenAI Mengalami Peningkatan Halusinasi, Penelitian Lebih Lanjut Diperlukan
Teknologi
1 bulan lalu
124 dibaca
Kertas 145 halaman DeepMind tentang keamanan AGI mungkin tidak meyakinkan para skeptis.
Teknologi
2 bulan lalu
70 dibaca
Anthropic Meluncurkan Model AI 'Penalaran Hibrida' Pertama di Dunia
Teknologi
2 bulan lalu
92 dibaca
Anthropic meluncurkan model AI baru yang 'berpikir' selama yang Anda inginkan.
Teknologi
3 bulan lalu
142 dibaca