Hakim Inggris Menyuarakan Kekhawatiran atas Kasus yang Dibuat-buat oleh AI

(SeaPRwire) –   Dua pengacara telah diperingatkan setelah mengajukan argumen yang dihasilkan oleh kecerdasan buatan

Seorang hakim dari High Court of England and Wales telah mengeluarkan peringatan resmi kepada para profesional hukum, memperingatkan para pengacara bahwa mengandalkan kecerdasan buatan untuk menghasilkan argumen hukum yang berisi kutipan kasus fiktif dapat menghadapi penuntutan pidana.

Victoria Sharp, presiden King’s Bench Division dari High Court, bersama dengan hakim Jeremy Johnson, menegur pengacara yang terlibat dalam dua kasus terpisah karena tampaknya mengandalkan alat AI untuk menyusun argumen tertulis yang diajukan ke pengadilan tanpa verifikasi.

 “Ada implikasi serius bagi administrasi keadilan dan kepercayaan publik pada sistem peradilan jika kecerdasan buatan disalahgunakan,” katanya dalam putusan pada hari Jumat.

Kasus-kasus tersebut muncul setelah pengadilan yang lebih rendah menandai dugaan penggunaan argumen yang dihasilkan AI dan pernyataan saksi yang berisi informasi palsu.

Dalam putusan oleh Hakim Sharp, pengadilan mengungkapkan bahwa seorang pengacara, dalam gugatan senilai £90 juta ($120 juta) mengenai dugaan pelanggaran perjanjian pembiayaan dengan Qatar National Bank, mengutip 18 kasus yang tidak ada.

Hamad Al-Haroun, klien dalam kasus tersebut, meminta maaf karena secara tidak sengaja menyesatkan pengadilan dengan informasi palsu yang dihasilkan oleh alat AI yang tersedia untuk umum, menerima tanggung jawab pribadi dan membebaskan pengacaranya, Abid Hussain.

Sharp mengatakan itu “luar biasa bahwa pengacara mengandalkan klien untuk keakuratan penelitian hukum mereka, daripada sebaliknya.”

Dalam kasus lain, pengacara Sarah Forey mengutip lima kasus yang dibuat-buat dalam klaim perumahan seorang penyewa terhadap London Borough of Haringey. Pengacara itu membantah dengan sengaja menggunakan AI tetapi mengakui dia mungkin melakukannya secara tidak sengaja saat melakukan penelitian online untuk kasus tersebut.

Hakim memarahinya dengan mengatakan bahwa “Ms Forey dapat memeriksa kasus yang dia kutip dengan mencari di situs web caselaw National Archives atau dengan pergi ke perpustakaan hukum Inn of Court-nya.”

Sharp memperingatkan bahwa menyajikan materi palsu sebagai asli dapat merupakan penghinaan terhadap pengadilan atau, dalam kasus yang paling serius, menghalangi proses peradilan – tindak pidana yang dapat dihukum hingga penjara seumur hidup.

Para hakim merujuk para pengacara dalam kedua kasus tersebut ke regulator profesional masing-masing tetapi menolak untuk mengejar hukuman yang lebih berat.

Tokoh-tokoh terkemuka dan ilmuwan telah mengangkat kekhawatiran dalam beberapa tahun terakhir atas potensi bahaya yang ditimbulkan oleh AI.

Para peneliti memperingatkan bahwa kecerdasan buatan berkembang pesat, dengan beberapa model dilaporkan menjadi sadar diri dan menulis ulang kode mereka sendiri. Palisade Research melaporkan bulan lalu bahwa dalam tes baru-baru ini, model AI yang kuat “mensabotase mekanisme pematian untuk mencegah dirinya dimatikan,” meningkatkan kekhawatiran akan potensi pemberontakan AI di dunia nyata.

“`