Courtesy of Reuters

Bahaya AI yang Mengarang Kasus Hukum: Ancaman Baru bagi Pengacara

19 Feb 2025, 03.55 WIB

150 dibaca

Ikhtisar 15 Detik

Penggunaan AI dalam praktik hukum dapat menyebabkan kesalahan serius jika tidak diperiksa dengan baik.
Pengacara bertanggung jawab penuh atas informasi yang mereka ajukan di pengadilan, termasuk yang dihasilkan oleh AI.
Pentingnya literasi AI di kalangan pengacara untuk menghindari kesalahan dan sanksi hukum.

Sebuah firma hukum di AS, Morgan & Morgan, mengirim email penting kepada lebih dari 1.000 pengacarnya, memperingatkan bahwa kecerdasan buatan (AI) dapat membuat hukum palsu. Ini terjadi setelah dua pengacara di firma tersebut menghadapi ancaman sanksi dari seorang hakim karena menggunakan kutipan kasus yang tidak ada dalam gugatan terhadap Walmart. Salah satu pengacara mengakui bahwa ia menggunakan program AI yang "menghasilkan" kasus-kasus fiktif dan meminta maaf atas kesalahan tersebut. Kasus ini menunjukkan risiko baru dalam litigasi akibat penggunaan AI, yang semakin umum di kalangan pengacara.

Meskipun AI dapat membantu pengacara dalam penelitian dan penyusunan dokumen hukum, AI juga dikenal dapat menghasilkan informasi yang salah, yang disebut "halusinasi." Para ahli hukum mengingatkan bahwa pengacara harus memeriksa dan memastikan keakuratan dokumen yang mereka ajukan ke pengadilan. Beberapa pengacara telah dihukum karena menggunakan informasi palsu yang dihasilkan oleh AI, menunjukkan pentingnya pemahaman yang baik tentang teknologi ini di kalangan profesional hukum.

Referensi:
[1] https://www.reuters.com/technology/artificial-intelligence/ai-hallucinations-court-papers-spell-trouble-lawyers-2025-02-18/

Analisis Kami

"Ketergantungan pengacara pada AI tanpa pemahaman mendalam menunjukkan rendahnya literasi teknologi di bidang hukum, yang sangat berbahaya bagi integritas sistem peradilan. Pendidikan dan pelatihan AI secara menyeluruh harus segera menjadi standar supaya manfaat teknologi bisa dioptimalkan tanpa mengorbankan akurasi dan etika profesional."

Analisis Ahli

Andrew Perlman

"Penggunaan AI tanpa pengecekan adalah bentuk ketidakmampuan profesional yang jelas dan harus mendapat sanksi tegas."

Harry Surden

"Kurangnya literasi AI di kalangan pengacara menjadi akar masalah, bukan teknologi AI itu sendiri."

Prediksi Kami

Ke depan, semakin banyak pengadilan yang akan mengadopsi aturan ketat dan pelatihan khusus terkait penggunaan AI dalam praktik hukum untuk mengurangi risiko kesalahan akibat halusinasi AI.