ASIAWORLDVIEW – Komisi Uni Eropa telah meluncurkan penyelidikan resmi terhadap platform media sosial X untuk menilai apakah perusahaan tersebut melanggar aturan digital Uni Eropa (UE). Fokus utama investigasi ini adalah dugaan kegagalan X dalam mencegah chatbot AI miliknya, Grok, menghasilkan dan menyebarkan konten ilegal, termasuk materi eksplisit yang melibatkan anak-anak.
Langkah ini menandai keseriusan otoritas UE dalam menegakkan regulasi digital, khususnya terkait perlindungan anak dan keamanan daring. Jika terbukti bersalah, X berpotensi menghadapi sanksi berat di bawah kerangka hukum Digital Services Act (DSA), yang mewajibkan platform besar untuk secara aktif mengawasi, mencegah, dan menghapus konten berbahaya. Penyelidikan ini juga mencerminkan meningkatnya perhatian regulator terhadap risiko yang ditimbulkan oleh teknologi AI generatif dalam ekosistem digital..
Komisi UE juga menyatakan bahwa risiko telah terealisasi melalui pembangkitan dan penyebaran konten seksual ilegal yang sebenarnya, yang membahayakan warga. Hal ini terjadi di tengah meningkatnya pengawasan internasional terhadap peran Grok dalam menciptakan deepfakes tanpa persetujuan.
Dua minggu lalu, X menerapkan pembatasan, membatasi pembangkitan gambar hanya untuk langganan berbayar, dan menambahkan hambatan teknis untuk mencegah pengguna memanipulasi secara digital orang agar mengenakan pakaian yang terbuka. Perusahaan juga memblokir fitur tersebut di yurisdiksi di mana konten semacam itu ilegal.
Baca Juga: Modernisasi Interaksi Konsumen Lewat Teknologi AI dan Cloud
Meskipun langkah-langkah ini, peneliti menemukan bahwa sekitar sepertiga dari gambar anak-anak yang bersifat seksual yang diidentifikasi dalam sampel CCDH tetap dapat diakses di platform X.
“Melalui penyelidikan ini, kami akan menentukan apakah X telah memenuhi kewajiban hukumnya berdasarkan DSA, atau apakah hak-hak warga negara Eropa—termasuk hak perempuan dan anak-anak—dianggap sebagai kerugian sampingan dari layanannya,” kata Henna Virkkunen, Wakil Presiden Eksekutif untuk Kedaulatan Teknologi, Keamanan, dan Demokrasi, dalam pernyataan tersebut.
Komisi Eropa baru saja memberitahu Elon Musk apa yang sudah diketahui semua orang: membuat gambar anak-anak yang bersifat seksual bukanlah hal yang ‘menarik’. Itu ilegal. “Kami menyadari bahwa X atau Grok kini menawarkan ‘Spicy Mode’ yang menampilkan konten seksual eksplisit dengan beberapa output yang dihasilkan menggunakan gambar anak-anak,” kata juru bicara Komisi UE Thomas Regnier pada konferensi pers di Brussels.
Awal bulan ini, juru bicara Komisi Eropa Thomas Regnier mengecam fitur “Spicy Mode” X dalam konferensi pers di Brussels.
“Ini bukan ‘spicy’. Ini ilegal. Ini mengerikan. Ini menjijikkan. Ini tidak pantas ada di Eropa,” kata Regnier.
