Inggris Gencarkan Aksi terhadap Teknologi AI ‘Nudify’, Umumkan Investigasi terhadap X

(SeaPRwire) –   Inggris Raya berencana memberlakukan undang-undang yang mengkriminalisasi pembuatan gambar seksual non-konsensual, termasuk melalui Grok, chatbot dalam aplikasi X milik Elon Musk, menyusul skandal deepfake aplikasi tersebut dalam beberapa minggu terakhir.

“Ini berarti individu melakukan pelanggaran pidana jika mereka membuat—atau berusaha membuat—konten semacam itu—termasuk di X—dan siapa pun yang melakukan ini harus siap menghadapi tuntutan hukum sepenuhnya,” Menteri Teknologi Liz Kendal mengumumkan di House of Commons pada hari Senin, seraya menambahkan bahwa pemerintah akan bekerja untuk juga meminta pertanggungjawaban perusahaan untuk menyediakan alat yang dirancang untuk membuat gambar non-konsensual ini.

Langkah ini diambil hanya beberapa jam setelah Office of Communications (Ofcom)—regulator independen industri komunikasi negara tersebut—mengumumkan bahwa mereka akan menyelidiki X dan ribuan gambar pornografi yang dihasilkan oleh Grok, termasuk gambar seksual dari apa yang tampak seperti anak di bawah umur. Penyelidikan ini bertujuan untuk menentukan apakah deepfake tersebut melanggar Undang-Undang Keamanan Daring (OSA) negara tersebut.

Kendal mengatakan dalam sebuah pernyataan pada hari Jumat bahwa jika Ofcom ingin menggunakan kekuasaannya untuk mencegah X diakses di Inggris Raya, “mereka akan mendapatkan dukungan penuh kami.”

Pada hari Jumat, X akhirnya memasang pagar pembatas pada gambar-gambar yang dibuat melalui aplikasi tersebut, membatasi pembuatan dan pengeditan gambar hanya untuk pelanggan berbayar di X, tetapi Kendal mengatakan bahwa ini “masih jauh dari cukup.”

“Menghina korban untuk mengatakan Anda masih bisa mendapatkan layanan ini jika Anda bersedia membayar,” kata Kendal kepada anggota parlemen. “Dan itu adalah monetisasi pelecehan.”

Berikut semua yang kami ketahui tentang rencana keras Inggris Raya terhadap gambar seksual yang dihasilkan AI.

Reaksi Musk

Musk memperkenalkan “Mode Pedas” Grok, yang menghasilkan konten dewasa, pada musim panas lalu, dan aplikasi tersebut menyatakan bahwa ia “mengambil tindakan terhadap konten ilegal di X, termasuk Materi Pelecehan Seksual Anak (CSAM), dengan menghapusnya, menangguhkan akun secara permanen, dan bekerja sama dengan pemerintah daerah dan penegak hukum jika diperlukan.”

Namun, sejak akhir Desember, pengguna X telah menggunakan pembuatan gambar Grok untuk mengubah foto yang diposting orang tentang diri mereka sendiri, termasuk penelanjangan non-konsensual.

Musk menanggapi kontroversi seputar gambar yang dihasilkan AI bukan dengan penyesalan, melainkan dengan berargumen bahwa para kritikusnya mencari “alasan apa pun untuk sensor.”

“Mengapa pemerintah Inggris Raya begitu fasis?” Musk memposting pada 10 Januari dalam sebuah unggahan. Dalam unggahan lain, ia memposting foto yang dihasilkan AI dari Perdana Menteri Keir Starmer dengan bikini.

X tidak menanggapi permintaan komentar dari TIME.

Respons Pemerintah

Inggris Raya adalah pemerintah terbaru yang merespons di tingkat federal terhadap krisis deepfake X, tetapi bukan satu-satunya.

Selama akhir pekan, Malaysia dan Indonesia memblokir akses ke Grok di negara mereka, menjadi yang pertama di dunia yang melakukannya. Negara-negara Asia Tenggara tersebut mengatakan bahwa kontrol yang ada pada aplikasi tersebut tidak cukup untuk mencegah penyebaran deepfake seksual non-konsensual terhadap perempuan dan anak-anak.

Meutya Hafid, Menteri Komunikasi dan Urusan Digital Indonesia, mengatakan dalam sebuah pernyataan bahwa deepfake seksual tersebut merupakan “pelanggaran serius terhadap hak asasi manusia, martabat, dan keselamatan warga di ruang digital.”

Pemimpin lain di negara-negara seperti Prancis dan India telah mengutuk penggunaan Grok untuk menghasilkan gambar semacam itu dan telah didesak oleh regulator dan anggota parlemen untuk menyelidiki X terkait masalah tersebut. Euronews melaporkan pada awal Januari bahwa Komisi Eropa sedang “sangat serius” meninjau masalah tersebut.

“Ini bukan ‘pedas.’ Ini ilegal,” kata juru bicara Komisi kepada outlet tersebut. “Ini mengerikan. Ini menjijikkan. Ini tidak ada tempatnya di Eropa.”

Benturan Kebebasan Berbicara

Undang-undang baru ini berpotensi memicu perselisihan antara AS dan Inggris Raya mengenai kebebasan berbicara.

Wakil Presiden J.D. Vance sering mengkritik negara-negara Eropa selama setahun terakhir karena dugaan “mundurnya” mereka dari kebebasan berbicara.

Ia berselisih dengan Starmer selama kunjungan terakhirnya ke AS pada bulan Februari, mengenai undang-undang pidato daring Inggris Raya, dengan Vance mengklaim bahwa Inggris menahan perusahaan dan warga negara Amerika.

“Kami juga tahu bahwa ada pelanggaran kebebasan berbicara yang tidak hanya memengaruhi warga Inggris—tentu saja, apa yang dilakukan warga Inggris di negara mereka sendiri terserah mereka—tetapi juga memengaruhi perusahaan teknologi Amerika dan, secara perpanjangan, warga negara Amerika,” kata Vance saat itu.

Starmer, di pihaknya, membalas bahwa ia “bangga” dengan sejarah kebebasan berbicara Inggris Raya: “Kami telah memiliki kebebasan berbicara untuk waktu yang sangat, sangat lama di Inggris Raya dan itu akan bertahan untuk waktu yang sangat, sangat lama,” katanya kepada Vance.

Penindakan keras Grok oleh Inggris Raya terjadi di tengah bentrokan terus-menerus antara AS dan Inggris Raya serta Uni Eropa mengenai regulasi AI dan teknologi serta media sosial.

Sementara itu, saat Grok terlibat skandal di luar negeri, Pemerintahan Trump telah merangkul teknologi tersebut, baru-baru ini meluncurkan platform media sosial baru pada hari Senin. Presiden Donald Trump juga tampaknya memperbaiki hubungannya dengan Musk, setelah perseteruan publik yang sengit pada Juni lalu, mengatakan minggu lalu bahwa taipan teknologi itu “hebat” dan minggu ini memintanya untuk membantu menyediakan internet di negara-negara berkembang melalui perusahaan satelitnya Starlink.

“Saya katakan tentang Elon, dia 80% jenius super, dan 20% dia membuat kesalahan,” kata Trump pada 4 Januari. “Tapi dia orang baik. Dia orang yang berniat baik.”