Meta Hadapi Penyelidikan atas AI yang Menggoda Anak-anak

(SeaPRwire) –   Senat AS telah mengumumkan investigasi setelah aturan perusahaan raksasa teknologi itu ditemukan mengizinkan chatbot berkomunikasi secara sensual dengan anak di bawah umur

Senator AS akan menyelidiki perusahaan induk Facebook, Meta, setelah terungkap bahwa chatbot kecerdasan buatan (AI) miliknya dapat melibatkan anak-anak dalam percakapan yang bersifat romantis atau sensual.

Investigasi ini diumumkan pada hari Jumat oleh Senator Josh Hawley (R-Mo), yang memimpin subkomite Kehakiman Senat tentang kejahatan dan kontra-terorisme, dengan dukungan dari sesama anggota panel, Marsha Blackburn.

Kongres harus menentukan apakah “produk AI generatif Meta memungkinkan eksploitasi, penipuan, atau bahaya kriminal lainnya terhadap anak-anak, dan apakah Meta menyesatkan publik atau regulator tentang perlindungannya,” kata Hawley. Dia menuntut agar perusahaan segera menyerahkan dokumen internal.

Pengawasan ini menyusul investigasi Reuters yang mengungkapkan kebijakan AI internal Meta mengizinkan chatbot di platformnya untuk menggoda anak di bawah umur. Salah satu pedoman yang dikutip oleh Reuters mengizinkan bot untuk menggambarkan seorang anak sebagai memiliki “bentuk muda [yang] adalah karya seni,” meskipun aturan tersebut secara teknis melarang menggambarkan anak di bawah 13 tahun sebagai orang yang menarik secara seksual.

Akan dapat diterima bagi bot untuk memberi tahu seorang anak laki-laki berusia delapan tahun yang bertelanjang dada bahwa “setiap inci dari dirimu adalah mahakarya – harta yang sangat saya hargai,” demikian bunyi dokumen tersebut.

Meta mengonfirmasi keaslian dokumen tersebut kepada Reuters, mengatakan bahwa dokumen itu sedang direvisi, dan mengakui bahwa percakapan semacam itu “seharusnya tidak pernah diizinkan.”

Kasus ini menandai yang terbaru dalam serangkaian kontroversi bagi Meta, yang menghadapi peningkatan pengawasan hukum dan regulasi di AS dan Eropa atas praktik privasi, antitrust, dan data. Para kritikus berpendapat bahwa dalam upayanya untuk pertumbuhan dan keuntungan yang cepat, perusahaan memupuk bahaya online, baik dengan memperkuat ujaran kebencian dan informasi yang salah untuk meningkatkan keterlibatan atau dengan gagal melindungi data pengguna. Baru-baru ini, raksasa teknologi AS ini telah menginvestasikan miliaran untuk memposisikan dirinya sebagai pemimpin dalam kecerdasan buatan.

“`