Prinsip Kuno yang Dapat Membantu Kita Mengenali Kepalsuan AI

(SeaPRwire) –   Anda tidak membutuhkan teknologi canggih untuk menipu orang secara online. Kami menunjukkan kepada lebih dari 3.000 siswa SMA sebuah video buram pekerja TPS yang membuang surat suara untuk mencurangi pemilu. Sebuah keterangan yang ditempel, dengan huruf merah dan huruf kapital, sudah cukup untuk menipu siswa agar percaya pada penipuan pemilih AS—padahal rekamannya berasal dari Rusia. Hanya tiga siswa yang menyadarinya. 

Kami telah lama berpendapat bahwa pemalsuan murah (cheap fakes) lebih berbahaya daripada deepfakes: hampir sama efektifnya tetapi jauh lebih mudah dibuat. Pada pemilu terakhir ini, bahkan dengan alat AI yang tersedia untuk masyarakat, rekaman yang disambung dengan lakban digital itulah yang memicu perdebatan tentang kesesuaian Presiden Joe Biden untuk menjabat. 

Kini, era pemalsuan murah akan berakhir. Video yang sepenuhnya dihasilkan oleh AI yang dibuat dengan alat video baru menandai medan informasi yang bahkan lebih berbahaya. Berkat produk seperti Google’s Veo 3, OpenAI’s Sora 2, dan Meta’s Vibes, sampah AI kini sangat mudah diproduksi sehingga menyebar ke seluruh layar kita, dibantu oleh penarikan diri secara besar-besaran platform dari moderasi konten. Untuk menavigasi internet hari ini, kita membutuhkan panduan dari kearifan kuno: penekanan kuno Muslim, Yahudi, Buddhis, dan keyakinan lain pada sentralitas reputasi. 

Muslim yang saleh menelusuri perkataan Muhammad melalui “rantai narasi,” atau “isnad.” Yahudi yang religius menafsirkan ajaran Talmud dalam konteks rabi yang menyampaikannya. Buddhis Tibet secara lisan menyampaikan ajaran dalam garis keturunan dari Buddha hingga saat ini. Semua tradisi ini mendorong kita untuk menalar informasi, tetapi hanya setelah kita melacaknya kembali ke sumbernya dan menilai reputasi para bijak yang berada di belakangnya.

Reputasi juga penting dalam konteks sekuler: itu adalah mekanisme yang kita gunakan untuk membuat keputusan ketika kita kekurangan pengetahuan dan keahlian. Kita mengandalkan reputasi saat memilih terapis atau tukang ledeng, restoran yang akan dikunjungi atau hotel yang akan dipesan. Kita bertanya kepada orang yang kita percaya dan berkonsultasi dengan ulasan karena kita menyadari bahwa tidak ada yang mungkin mengungkapkan kekurangan atau motif tersembunyi mereka.

Reputasi sangat penting di begitu banyak bidang kehidupan kita. Mengapa, di internet, kebanyakan orang mengabaikannya?

Penelitian kami telah menguji kemampuan ribuan anak muda untuk mengevaluasi informasi online. Berulang kali, kami melihat mereka menilai konten sambil mengabaikan dari mana asalnya. Seorang siswa dari pedesaan Ohio membela video penipuan pemilih karena mereka berpikir mata telanjang mereka dapat mendeteksi “penipuan di berbagai negara bagian.” Seorang siswa dari Pennsylvania menulis bahwa video tersebut dengan jelas “menunjukkan orang-orang memasukkan suara palsu ke dalam kotak.”

Pola yang sama menjadi sangat parah ketika menyangkut AI. Seorang guru yang berbagi pengalamannya dengan ChatGPT menceritakan bahwa ia bertanya kepada seorang siswa bagaimana ia tahu apakah informasi dari ChatGPT akurat. Siswa tersebut menyodorkan ponsel ke wajah guru: “Lihat, tertulis di sini!'” Studi percontohan kami di kelas SMA dan perguruan tinggi menunjukkan tren serupa: banyak siswa menaruh kepercayaan pada chatbot AI, bahkan ketika chatbot tersebut menghilangkan konteks tentang dari mana informasi itu berasal. 

Terlalu banyak pengguna internet gagal mempertimbangkan reputasi atau keliru menganggap domain tingkat atas atau akun bercentang biru sebagai sumber yang terverifikasi daripada produk sampingan yang cacat. Ketika orang mencoba mengevaluasi reputasi, mereka terpengaruh oleh sinyal yang mudah dimanipulasi yang disediakan oleh sumber itu sendiri: domain .org, bahasa yang terdengar resmi di halaman “tentang”, kuantitas data terlepas dari kualitasnya, atau firasat tentang bagaimana sesuatu terlihat. 

Fitur-fitur ini berkilauan seperti emas palsu. Siapa pun bisa mendapatkan domain .org, termasuk kelompok kebencian. Situs penyangkalan Holocaust mengklaim di halaman tentang mereka untuk “memberikan informasi faktual.” Kiriman dengan bagan yang mewah dapat mengandung misinformasi berbahaya. Dan laporan menunjukkan bahwa AI sangat realistis sehingga memaksa kita untuk meragukan indra kita sendiri: mulai dari rekaman audio yang terdengar seperti orang tua kita hingga gambar hiper-realistis dari kobaran api yang melahap Space Needle Seattle.

Lanskap informasi ini menyajikan pilihan tanpa kemenangan antara penyerahan dan solipsisme: tidak peduli apa yang benar, atau bersikeras bahwa tidak ada yang benar. Yang pertama membuat kita rentan terhadap pelaku jahat yang mempersenjatai klip realistis. Yang terakhir membuat kita kekurangan informasi yang baik. Kedua pilihan tersebut mengikis kewarganegaraan yang terinformasi pada saat yang langka. 

Inilah yang bisa kita lakukan: alih-alih berfokus pada konten itu sendiri, pertama-tama tanyakan siapa di baliknya, sama seperti tradisi iman yang mempertimbangkan ajaran dalam konteks siapa yang mengatakannya. 

Dan ketika digunakan dengan terampil, alat-alat yang menyesatkan kita justru dapat membantu kita keluar dari teka-teki ini. Bukan dengan mengalihdayakan pemikiran kita kepada teknologi—tetapi dengan menggunakan teknologi untuk membangun reputasi dan menajamkan pemikiran kita.

Tiga siswa yang mengetahui bahwa video penipuan pemilih itu berasal dari Rusia tidak melakukan keajaiban teknis apa pun. Mereka hanya membuka tab baru, memasukkan beberapa kata kunci pilihan, dan menemukan artikel dari sumber-sumber kredibel seperti BBC dan Snopes yang menyangkalnya. Dan dengan beberapa petunjuk cerdik tentang cara kerja LLM dan cara menyusun perintah secara efektif, AI sebenarnya dapat membantu dalam memverifikasi postingan di media sosial dan menawarkan konteks yang hilang.

Alat AI utama menyertakan penafian yang tidak dianggap penting yang memberi tahu pengguna untuk memverifikasi informasi. “Gemini dapat membuat kesalahan, jadi periksa kembali,” kata Google. “ChatGPT dapat membuat kesalahan. Periksa informasi penting,” saran OpenAI. Tetapi dari Generasi Alpha hingga dewasa, hampir semua orang kesulitan memverifikasi informasi yang mereka temui. 

Kabar baiknya adalah kita semua bisa menjadi lebih baik. Bahkan beberapa jam instruksi tentang cara mengukur reputasi dapat membuat perbedaan—seperti yang kami lihat dalam studi yang telah kami lakukan di mana-mana mulai dari kelas SMA di California dan Kansas hingga mata kuliah di perguruan tinggi di Arizona dan Wisconsin. Sebelumnya, siswa mempercayai mata mereka untuk mengetahui apakah sesuatu itu dapat diandalkan. Setelah itu, mereka belajar untuk mendapatkan gambaran tentang reputasi sumber. Studi di Kanada, Britania Raya, Belanda, Finlandia, dan Prancis telah menemukan hasil positif serupa. 

Ketika kita tidak bisa lagi membedakan konten asli dari konten yang dihasilkan AI, rasanya benar-benar sia-sia mencoba memutuskan apa yang harus dipercaya. Tetapi kita dapat lebih baik mengatasi ekosistem pengetahuan hari ini dengan melipatgandakan pelajaran kuno: pentingnya reputasi.