Courtesy of TechCrunch

Anthropic Akui Kesalahan Kutipan AI Claude dalam Kasus Hukum Musik

Mengungkap kesalahan penggunaan AI dalam kutipan hukum oleh Anthropic dan dampaknya dalam perselisihan hukum terkait hak cipta serta trend penggunaan AI dalam sektor hukum meskipun ada risiko kesalahan.

16 Mei 2025, 02.37 WIB

82 dibaca

Ikhtisar 15 Detik

Kesalahan sitasi dapat memiliki dampak signifikan dalam proses hukum.
Penggunaan AI dalam hukum terus berkembang meskipun ada risiko kesalahan.
Perusahaan teknologi harus lebih berhati-hati dalam memverifikasi informasi yang dihasilkan oleh AI.

Northern California, United States - Anthropic, perusahaan yang mengembangkan chatbot AI bernama Claude, menghadapi masalah serius di pengadilan Northern California karena Claude menghasilkan kutipan palsu dalam dokumen hukum. Kutipan ini salah dalam judul dan penulisnya, yang seharusnya menjadi referensi sah di dalam persidangan.

Kesalahan tersebut tidak terdeteksi saat pemeriksaan manual oleh pengacara Anthropic, yang menyebabkan mereka harus meminta maaf dan menjelaskan bahwa ini adalah kesalahan kutipan yang tidak disengaja, bukan upaya menipu atau membuat referensi palsu dengan sengaja.

Sebelumnya, pengacara dari Universal Music Group menuduh bahwa kesaksian ahli dari Anthropic, Olivia Chen, menggunakan kutipan palsu yang dihasilkan AI selama persidangan, yang mengakibatkan hakim federal perintahkan perusahaan untuk memberikan penjelasan terkait tuduhan ini.

Kasus ini menjadi contoh terbaru bagaimana penggunaan AI dalam proses hukum dapat menimbulkan risiko kesalahan penting, seperti riset yang tidak akurat atau dokumen dengan fakta palsu. Insiden serupa juga pernah terjadi pada pengacara lain di California dan Australia yang menggunakan AI dalam dokumen hukum mereka.

Meskipun ada risiko tersebut, banyak startup yang memakai AI untuk membantu pekerjaan pengacara justru menarik pendanaan besar dari investor, seperti Harvey yang sedang dalam pembicaraan untuk mendapatkan pendanaan lebih dari Rp 4.11 triliun ($250 juta) dengan valuasi Rp 82.22 triliun ($5 miliar) .

--------------------

Analisis Kami: Kesalahan seperti yang terjadi pada Anthropic menunjukkan bahwa teknologi AI masih sangat rentan terhadap kesalahan kritis, terutama dalam konteks hukum yang membutuhkan akurasi tinggi. Ketergantungan berlebih pada AI tanpa pemeriksaan manusia yang cermat dapat merusak kredibilitas dan integritas proses hukum.

--------------------

Analisis Ahli:

Richard Susskind: Penggunaan AI dalam hukum memang menjanjikan efisiensi, tetapi kejadian kesalahan kutipan ini menggarisbawahi perlunya pendekatan hybrid antara AI dan manusia agar hasilnya dapat diandalkan dan sah secara hukum.

--------------------

What's Next: Kesalahan penggunaan AI dalam praktik hukum kemungkinan akan memicu regulasi lebih ketat dan peningkatan standar verifikasi manual di masa depan agar mencegah dampak negatif terhadap proses pengadilan.

Referensi:
[1] https://techcrunch.com/2025/05/15/anthropics-lawyer-was-forced-to-apologize-after-claude-hallucinated-a-legal-citation/