Dunia Belum Siap untuk Darurat AI

(SeaPRwire) –   Bayangkan Anda terbangun dan mendapati internet berkedip-kedip, pembayaran kartu gagal, ambulans menuju alamat yang salah, dan siaran darurat yang Anda tidak lagi yakin bisa dipercaya. Baik disebabkan oleh malfungsi model, penggunaan kriminal, atau guncangan siber yang meningkat, krisis yang didorong oleh AI dapat menyebar melintasi batas negara dengan cepat.

Dalam banyak kasus, tanda-tanda pertama dari keadaan darurat AI kemungkinan akan terlihat seperti pemadaman umum atau kegagalan keamanan. Baru kemudian, jika sama sekali, akan menjadi jelas bahwa sistem AI telah memainkan peran material.

Beberapa pemerintah dan perusahaan telah mulai membangun pagar pengaman untuk mengelola keadaan darurat semacam itu. European Union AI Act, kerangka kerja risiko United States National Institute of Standards and Technology, G7 Hiroshima process, dan standar teknis internasional semuanya bertujuan untuk mencegah kerugian. Badan keamanan siber dan operator infrastruktur juga memiliki runbook untuk upaya peretasan, pemadaman, dan kegagalan sistem rutin. Yang hilang bukanlah panduan teknis untuk menambal server atau memulihkan jaringan. Ini adalah rencana untuk mencegah kepanikan sosial dan kerusakan kepercayaan, diplomasi, dan komunikasi dasar jika AI berada di pusat krisis yang bergerak cepat.

Mencegah keadaan darurat AI hanyalah separuh pekerjaan. Separuh tata kelola AI yang hilang adalah kesiapsiagaan dan respons. Siapa yang memutuskan bahwa insiden AI telah menjadi keadaan darurat internasional? Siapa yang berbicara kepada publik ketika pesan palsu membanjiri umpan mereka? Siapa yang menjaga saluran tetap terbuka antar pemerintah jika jalur normal terganggu?

Pemerintah dapat, dan harus, menetapkan rencana respons darurat AI sebelum terlambat. Dalam penelitian mendatang berdasarkan hukum bencana dan pelajaran dari keadaan darurat global lainnya, saya mengkaji bagaimana aturan internasional yang ada sudah berisi komponen untuk panduan AI. Pemerintah sudah memiliki alat hukum, tetapi sekarang perlu menyepakati bagaimana dan kapan menggunakannya. Kita tidak memerlukan institusi baru yang rumit untuk mengawasi AI—kita hanya perlu pemerintah untuk merencanakan terlebih dahulu.

Cara mempersiapkan keadaan darurat AI

Kita pernah melihat model tata kelola umum sebelumnya. International Health Regulations memungkinkan Organisasi Kesehatan Dunia untuk menyatakan keadaan darurat kesehatan global dan mengoordinasikan tindakan. Perjanjian kecelakaan nuklir mensyaratkan pemberitahuan cepat ketika radiasi dapat menyebar melintasi batas negara. Perjanjian telekomunikasi menghilangkan hambatan hukum sehingga peralatan satelit darurat dapat diaktifkan dengan cepat. Konvensi kejahatan siber menetapkan titik kontak 24/7 agar pasukan polisi dapat bekerja sama dalam waktu singkat. Pelajaran menunjukkan pemicu yang disepakati sebelumnya, koordinator yang ditunjuk, dan saluran komunikasi cepat menghemat waktu dalam keadaan darurat.

Keadaan darurat AI membutuhkan fondasi yang sama. Mulailah dengan definisi bersama. Keadaan darurat AI harus menjadi peristiwa luar biasa yang disebabkan oleh pengembangan, penggunaan, atau malfungsi AI yang berisiko menyebabkan kerugian lintas batas yang parah dan melampaui kapasitas satu negara untuk mengatasinya. Yang terpenting, ini juga harus mencakup situasi di mana keterlibatan AI hanya dicurigai atau merupakan salah satu dari beberapa penyebab yang masuk akal sehingga pemerintah dapat bertindak sebelum kepastian forensik tiba, jika memang tiba. Sebagian besar insiden tidak akan pernah mencapai tingkat itu. Menyetujui definisi di muka membantu menghindari kelumpuhan selama jam-jam kritis pertama.

Selanjutnya, pemerintah membutuhkan panduan praktis. Elemen pertama dari panduan ini harus mendefinisikan serangkaian pemicu umum dan skala keparahan dasar sehingga pejabat tahu kapan harus meningkatkan dari insiden rutin ke peringatan internasional, termasuk kriteria untuk menentukan di mana keterlibatan AI hanya dicurigai secara kredibel daripada terbukti secara konklusif. Bab kedua harus mencakup penunjukan koordinator global yang dapat berkumpul dengan cepat, didukung oleh pakar teknis, mitra penegak hukum, dan spesialis bencana. Bagian ketiga harus menetapkan sistem pelaporan insiden yang dapat dioperasikan sehingga negara dan perusahaan dapat bertukar informasi penting dalam hitungan menit, bukan hari. Selanjutnya, kita harus membuat protokol komunikasi krisis menggunakan metode analog yang terautentikasi seperti radio. Akhirnya, kita harus menulis daftar yang jelas tentang langkah-langkah keberlanjutan dan penahanan. Ini mungkin termasuk memperlambat layanan AI berisiko tinggi atau mengalihkan infrastruktur penting ke kontrol manual.

Menyusun kesiapsiagaan darurat AI

Jadi, siapa yang harus mengawasi inisiatif kesiapsiagaan darurat AI ini? Jawaban saya: Perserikatan Bangsa-Bangsa.

Menempatkan sistem ini dalam struktur PBB penting karena beberapa alasan. Salah satunya adalah bahwa keadaan darurat AI tidak akan menghormati aliansi. Mekanisme yang berlabuh di PBB menawarkan inklusi yang lebih luas dan mengurangi duplikasi di antara koalisi yang bersaing. Ini memberikan bantuan teknis kepada negara-negara tanpa kapasitas AI yang canggih sehingga beban tidak ditanggung oleh segelintir kekuatan besar. Ini menambah legitimasi dan batasan. Kekuatan luar biasa harus sah, proporsional, dan dapat ditinjau, terutama ketika menyentuh jaringan digital yang digunakan oleh miliaran orang.

Lapisan internasional ini perlu disesuaikan dengan langkah-langkah domestik yang dapat diambil pemerintah sekarang. Setiap negara harus menunjuk titik kontak darurat AI 24/7. Kekuatan darurat harus ditinjau untuk melihat apakah mereka mencakup infrastruktur AI. Rencana sektor harus diselaraskan dengan manajemen insiden dasar dan standar keberlanjutan bisnis. Latihan bersama harus mempraktikkan gelombang disinformasi, kegagalan model, dan pemadaman lintas sektor. Migrasi ke kriptografi pasca-kuantum harus diprioritaskan sebelum serangan musuh memaksa pembaruan tersebut. Pemerintah juga harus mendaftarkan pengirim tepercaya dan templat peringatan sehingga pesan masih dapat mencapai warga ketika sistem tidak stabil.

Tindakan pencegahan ini diperlukan. Serangan siber terkait AI yang dilaporkan terus meningkat dan banyak negara telah mengalami pemadaman skala kecil, upaya manipulasi data, dan lonjakan disinformasi yang mengisyaratkan seperti apa peristiwa yang lebih besar. Terlebih lagi, kegagalan AI yang bergerak cepat dapat bergabung dengan infrastruktur yang sangat terhubung saat ini untuk menghasilkan krisis yang tidak dapat ditangani oleh satu negara pun sendirian.

Ini bukan seruan untuk badan super global baru. Ini adalah seruan untuk menyatukan apa yang sudah ada menjadi respons yang koheren. Kita membutuhkan panduan darurat AI yang meminjam alat-alat ini dan melatihnya.

Ukuran tata kelola AI adalah bagaimana kita merespons di hari terburuk kita. Saat ini, dunia tidak memiliki rencana untuk keadaan darurat AI—tetapi kita bisa membuatnya. Kita harus membangunnya sekarang, mengujinya, dan mengikatnya dengan hukum dengan perlindungan, karena begitu krisis berikutnya dimulai, semuanya sudah terlambat.