Firma Hukum Teratas Mengakui 'Halusinasi' AI dalam Pengajuan Kebangkrutan Terkait Jaringan Penipuan yang Diduga

Singkatnya

• Firma hukum Sullivan & Cromwell mengakui bahwa dokumen terbaru dalam sebuah kasus profil tinggi mengandung “halusinasi” AI.
• Firma mengatakan output AI tidak diverifikasi dengan benar dan menyertakan kutipan yang dibuat-buat.
• Kasus ini melibatkan upaya oleh likuidator yang ditunjuk pengadilan untuk menuntut klaim terkait Prince Group yang dikenai sanksi.

Firma hukum Sullivan & Cromwell telah mengakui kepada pengadilan kebangkrutan AS bahwa sebuah dokumen yang diajukan baru-baru ini dalam sebuah kasus profil tinggi mengandung kesalahan yang dihasilkan oleh kecerdasan buatan, termasuk kutipan yang dibuat-buat. “Kami sangat menyesal bahwa hal ini terjadi,” tulis Andrew Dietderich, kepala restrukturisasi firma tersebut, kepada Hakim Martin Glenn, mengatakan dokumen tersebut mengandung “halusinasi” AI yang menghasilkan otoritas fiktif dan mendistorsi otoritas yang ada. Pengungkapan ini muncul dalam surat kepada Pengadilan Kebangkrutan AS untuk Distrik Selatan New York, di mana firma tersebut mewakili likuidator yang ditunjuk pengadilan dari Kepulauan Virgin Inggris. Kesalahan tersebut muncul dalam sebuah mosi tanggal 9 April dan firma mengatakan aturan mereka tentang penggunaan AI tidak diikuti selama proses persiapan.

Kasus ini melibatkan upaya oleh likuidator tersebut untuk menuntut klaim terkait Prince Group dan pemiliknya, Chen Zhi. Jaksa menuduh Chen mengarahkan komponen penipuan yang menargetkan korban di seluruh dunia dan telah berusaha memulihkan miliaran dolar dalam cryptocurrency yang mereka klaim terkait dengan aktivitas tersebut. Dia ditahan awal tahun ini di Kamboja dan kemudian dipulangkan ke China. Melalui proses Bab 15 di AS, likuidator berusaha mendapatkan pengakuan atas kewenangan mereka untuk bertindak atas nama kreditur dan korban yang diduga. Prince Group, yang didirikan di Kepulauan Virgin Inggris, telah dikaitkan oleh otoritas AS dengan operasi penipuan skala besar di Asia Tenggara dan dikenai sanksi oleh pemerintah Inggris dan AS. Menurut pengajuan yang dikoreksi, dokumen pengajuan April salah menyatakan hukum kasus di beberapa tempat dan menyertakan kutipan yang tidak mendukung proposisi yang dikaitkan, sementara beberapa tampaknya tidak memiliki dasar sama sekali. Firma menarik kembali mosi asli dan telah mengajukan versi revisi. Pengacara Prince Group dan Chen di Boies Schiller Flexner awalnya mengidentifikasi kesalahan tersebut. Mereka mengatakan bahasa yang dikaitkan dengan Kode Kebangkrutan AS tidak dapat ditemukan dan bahwa beberapa otoritas salah dikarakterisasi atau salah diidentifikasi. Dalam satu kasus, mereka mengatakan, sebuah kasus yang dikutip merujuk pada keputusan berbeda di sirkuit lain.

 Dalam pengajuan terpisah, terdakwa mengatakan setidaknya 28 kutipan salah, termasuk kutipan yang dikaitkan dengan pengadilan yang tidak ada. Mereka berargumen bahwa waktu koreksi tersebut merugikan karena pengajuan revisi datang setelah mereka mengajukan keberatan, dan meminta pengadilan menunda sidang yang dijadwalkan dan mengadakan konferensi status. Sullivan & Cromwell mengatakan kebijakan mereka mengharuskan pengacara menyelesaikan pelatihan sebelum menggunakan alat AI dan memverifikasi secara independen semua output. “Sebelum pengacara firma diberikan akses ke alat AI generatif, pengacara harus menyelesaikan dua modul pelatihan yang wajib, yang pelaksanaannya dilacak dan diverifikasi. Pelatihan ini berulang kali menekankan risiko ‘halusinasi’ AI, termasuk pembuatan kutipan kasus, salah tafsir otoritas, dan kutipan yang tidak akurat,” katanya. “Ini menginstruksikan pengacara untuk ‘percaya pada apa pun dan verifikasi semuanya’ dan menjelaskan bahwa kegagalan untuk memverifikasi secara independen output yang dihasilkan AI merupakan pelanggaran kebijakan firma.” Firma mengatakan tinjauan yang lebih luas menemukan masalah penulisan kecil tambahan dalam pengajuan lain, yang mereka kaitkan dengan kesalahan manusia daripada AI. Mereka tidak menyebutkan pengacara yang menyiapkan mosi asli. AI di pengadilan Insiden ini menambah daftar kesalahan terkait AI yang semakin meningkat dalam praktik hukum saat firma menguji alat yang dirancang untuk mempercepat riset dan penyusunan dokumen. Pengadilan baru-baru ini memberi sanksi atau mengkritik pengacara karena mengajukan dokumen dengan referensi yang dibuat-buat atau tidak akurat yang dihasilkan oleh AI. Di Australia, seorang pengacara dicabut hak praktiknya sebagai pengacara utama karena penggunaan AI tahun lalu. Sekolah hukum mulai mewajibkan instruksi tentang teknologi ini, sementara hakim senior telah memperingatkan bahwa penyalahgunaan dapat mempengaruhi integritas proses pengadilan.

Putusan terbaru juga membahas bagaimana AI cocok dalam kerangka hukum yang ada, termasuk apakah interaksi dengan alat tersebut dilindungi oleh hak istimewa. Pada saat yang sama, beberapa pengadilan sedang menguji sistem AI untuk membantu mengelola beban kasus yang berat.