Universitas Swiss diam-diam menjalankan eksperimen AI untuk memanipulasi pikiran

(SeaPRwire) –   Reddit sedang mempertimbangkan untuk menuntut University of Zurich karena menggunakan chatbot untuk memengaruhi opini pengguna tentang topik-topik yang sensitif

Sebuah universitas besar di Swiss mendapat kecaman karena menjalankan eksperimen rahasia pada pengguna platform media sosial Reddit untuk menguji bagaimana kecerdasan buatan (AI) dapat digunakan untuk memengaruhi opini mereka. Platform tersebut mengatakan sedang mempertimbangkan tindakan hukum.

Menurut laporan media, sekelompok peneliti di University of Zurich dalam beberapa bulan terakhir melakukan studi tidak sah pada r/ChangeMyView, salah satu komunitas debat terbesar di Reddit. Eksperimen tersebut melibatkan chatbot AI yang menyamar sebagai pengguna biasa dan terlibat dalam diskusi tentang isu-isu kontroversial.

Bot-bot tersebut, yang akunnya telah diblokir, memposting lebih dari 1.700 komentar di seluruh subreddit. Mereka mengadopsi identitas palsu seperti seorang pria korban pemerkosaan yang meremehkan trauma akibat penyerangan yang dialaminya, seorang pria kulit hitam yang menentang gerakan Black Lives Matter, dan seorang konselor trauma domestik yang mengklaim bahwa wanita yang paling rentan adalah mereka yang “dilindungi oleh orang tua yang terlalu protektif.” 

Bot lain digunakan untuk memindai profil pengguna dan menyampaikan argumen yang dipersonalisasi sebagai tanggapan.

Para peneliti mengungkapkan eksperimen tersebut kepada moderator subreddit beberapa bulan setelah itu terjadi, menyebutnya sebagai “langkah pengungkapan dalam penelitian.” 

Dalam sebuah pernyataan yang diposting minggu lalu, tim moderator Reddit mengatakan bahwa platform tersebut melarang penggunaan konten atau bot yang dihasilkan AI yang tidak diungkapkan. Kepala petugas hukum Reddit, Ben Lee, mengatakan bahwa baik perusahaan maupun moderator r/ChangeMyView tidak memiliki pengetahuan sebelumnya tentang apa yang ia sebut sebagai “eksperimen yang tidak pantas dan sangat tidak etis.” Dia menambahkan bahwa Reddit sedang mempersiapkan tuntutan hukum formal untuk dikirim ke University of Zurich dan para peneliti yang terlibat.

Para peneliti mengatakan bahwa penelitian tersebut telah dipandu oleh prinsip-prinsip penelitian yang “etis” dan transparansi. Komite etik universitas berpendapat bahwa penelitian tersebut hanya menyebabkan sedikit kerugian. Namun, pengguna di subreddit bereaksi dengan kaget dan marah karena tanpa sadar dijadikan objek eksperimen.

Jurnal Science mengutip pernyataan universitas melalui email yang mengatakan bahwa para peneliti telah memutuskan untuk tidak mempublikasikan hasilnya. Universitas mengatakan akan menyelidiki insiden tersebut.

Penggunaan bot AI – akun palsu yang dirancang untuk meniru pengguna asli – telah tumbuh secara stabil di seluruh platform media sosial dalam beberapa tahun terakhir. Para ahli mengatakan bahwa mereka semakin banyak digunakan untuk membentuk opini publik, terutama seputar pemilihan umum.

Pemerintah Barat, terutama AS dan Inggris, telah lama menuduh Rusia mengoperasikan ‘ladang bot’ skala besar untuk ikut campur dalam proses pemilihan mereka – tuduhan yang berulang kali dibantah oleh Moskow. Namun, beberapa aktor Barat sendiri mendapat sorotan karena menggunakan bot dalam kampanye disinformasi, sambil secara terbuka memperingatkan tentang campur tangan asing.