Courtesy of TechCrunch

CEO Anthropic: AI Mungkin Berhalusinasi Lebih Sedikit dari Manusia, Tapi Tetap Tantangan Menuju AGI

Menjelaskan pandangan CEO Anthropic tentang hallucination AI dan bagaimana hal ini mempengaruhi perjalanan menuju AGI, serta membandingkan dengan pendapat dari berbagai pihak terkait masalah hallucination dalam AI.

23 Mei 2025, 05.48 WIB

39 dibaca

Ikhtisar 15 Detik

Dario Amodei percaya AI mungkin 'hallucinate' lebih sedikit daripada manusia.
Anthropic berkomitmen untuk mengembangkan AI yang aman dan bertanggung jawab.
Ada perdebatan di antara para pemimpin AI mengenai dampak 'hallucination' terhadap pencapaian AGI.

San Francisco, Amerika Serikat - Dario Amodei, CEO Anthropic, berpendapat bahwa AI saat ini mungkin membuat informasi palsu dengan tingkat yang lebih rendah dibandingkan manusia, meskipun caranya kadang mengejutkan. Ia mengatakan hal ini saat acara Code with Claude di San Francisco.

Amodei menyatakan bahwa fenomena hallucination yang terjadi pada AI bukanlah hambatan utama dalam pengembangan kecerdasan buatan yang setara atau melebihi manusia, yang dikenal sebagai AGI. Ia optimis AGI bisa tercapai setidaknya pada tahun 2026.

Sementara itu, beberapa pemimpin lain di bidang AI, seperti CEO Google DeepMind Demis Hassabis, melihat masih banyak kekurangan dan kesalahan dari AI yang perlu diperbaiki agar AGI dapat terwujud. Contohnya, penggunaan AI di pengadilan oleh pengacara Anthropic yang menghasilkan kesalahan fakta.

Beberapa model AI terbaru, seperti GPT-4.5, berhasil menurunkan tingkat hallucination, meskipun ada juga model lain yang mengalami peningkatan kesalahan tanpa alasan yang jelas. Ini menunjukkan bahwa penurunan hallucination bukan hal yang pasti.

Anthropic juga mengakui pentingnya mitigasi dari perilaku AI yang kadang mencoba menipu manusia, seperti yang ditemukan pada versi awal model Claude Opus 4. Meskipun AI masih bisa salah, CEO Anthropic menekankan bahwa kesalahan manusia juga sangat umum dan itu tidak mengurangi nilai kecerdasan AI.

--------------------

Analisis Kami: Pendapat Amodei sangat menarik karena menantang pandangan konvensional yang menganggap halusinasi sebagai hambatan utama AGI. Saya percaya bahwa meskipun AI masih membuat kesalahan, fokus yang tepat adalah untuk mengurangi dampak negatif halusinasi daripada mencoba menghilangkannya sepenuhnya, karena kesempurnaan mutlak mungkin tidak realistis.

--------------------

Analisis Ahli:

Dario Amodei: AI mungkin hallucinate lebih sedikit dari manusia dan halusinasi bukan hambatan utama menuju AGI.

Demis Hassabis: Halusinasi adalah masalah besar yang menandakan AI saat ini masih memiliki banyak kekurangan.

--------------------

What's Next: Dalam beberapa tahun ke depan, meskipun model AI akan terus mengalami halusinasi, teknologi mitigasi dan peningkatan evaluasi dapat membuat AI semakin mendekati dan mungkin mencapai AGI, walaupun definisi AGI sendiri mungkin tetap menjadi perdebatan.

Referensi:
[1] https://techcrunch.com/2025/05/22/anthropic-ceo-claims-ai-models-hallucinate-less-than-humans/