Courtesy of TechCrunch

Kesalahan Kutipan AI Claude Anthropic Picu Sengketa Hukum Hak Cipta Musik

Mengungkap kesalahan penggunaan AI dalam kutipan hukum oleh Anthropic dan dampaknya dalam perselisihan hukum terkait hak cipta serta trend penggunaan AI dalam sektor hukum meskipun ada risiko kesalahan.

16 Mei 2025, 02.37 WIB

78 dibaca

Ikhtisar 15 Detik

Kesalahan sitasi dapat memiliki dampak signifikan dalam proses hukum.
Penggunaan AI dalam hukum terus berkembang meskipun ada risiko kesalahan.
Perusahaan teknologi harus lebih berhati-hati dalam memverifikasi informasi yang dihasilkan oleh AI.

Northern California, United States - Anthropic, perusahaan yang mengembangkan chatbot AI bernama Claude, menghadapi masalah serius di pengadilan Northern California karena Claude menghasilkan kutipan palsu dalam dokumen hukum. Kutipan ini salah dalam judul dan penulisnya, yang seharusnya menjadi referensi sah di dalam persidangan.

Kesalahan tersebut tidak terdeteksi saat pemeriksaan manual oleh pengacara Anthropic, yang menyebabkan mereka harus meminta maaf dan menjelaskan bahwa ini adalah kesalahan kutipan yang tidak disengaja, bukan upaya menipu atau membuat referensi palsu dengan sengaja.

Sebelumnya, pengacara dari Universal Music Group menuduh bahwa kesaksian ahli dari Anthropic, Olivia Chen, menggunakan kutipan palsu yang dihasilkan AI selama persidangan, yang mengakibatkan hakim federal perintahkan perusahaan untuk memberikan penjelasan terkait tuduhan ini.

Kasus ini menjadi contoh terbaru bagaimana penggunaan AI dalam proses hukum dapat menimbulkan risiko kesalahan penting, seperti riset yang tidak akurat atau dokumen dengan fakta palsu. Insiden serupa juga pernah terjadi pada pengacara lain di California dan Australia yang menggunakan AI dalam dokumen hukum mereka.

Meskipun ada risiko tersebut, banyak startup yang memakai AI untuk membantu pekerjaan pengacara justru menarik pendanaan besar dari investor, seperti Harvey yang sedang dalam pembicaraan untuk mendapatkan pendanaan lebih dari Rp 4.11 triliun ($250 juta) dengan valuasi Rp 82.22 triliun ($5 miliar) .

Sumber: https://techcrunch.com/2025/05/15/anthropics-lawyer-was-forced-to-apologize-after-claude-hallucinated-a-legal-citation/