SNANEPAPUA.COM – Uni Eropa secara resmi menyatakan keprihatinan mendalam dan mengecam keras platform media sosial X milik Elon Musk. Langkah ini diambil setelah ditemukannya konten deepfake yang sangat memprihatinkan, yang melibatkan manipulasi gambar menyerupai anak-anak, yang dihasilkan melalui fitur kecerdasan buatan (AI) terbaru milik platform tersebut, Grok.
Fitur “edit image” yang baru saja diluncurkan pada Grok AI dilaporkan telah disalahgunakan oleh sejumlah pengguna untuk tujuan yang tidak etis. Laporan investigasi menunjukkan bahwa alat tersebut digunakan untuk memanipulasi foto orang sungguhan menjadi konten pornografi digital yang sangat realistis. Hal ini memicu gelombang protes dari para aktivis perlindungan anak dan pakar keamanan siber di seluruh dunia.
Komisi Eropa telah mengirimkan peringatan keras kepada manajemen X, menyebut hasil manipulasi tersebut sebagai sesuatu yang “mengerikan” dan melanggar standar keselamatan digital internasional. Otoritas Uni Eropa kini menuntut penjelasan segera mengenai protokol keamanan yang diterapkan oleh X untuk mencegah penyalahgunaan teknologi AI yang semakin canggih ini agar tidak membahayakan masyarakat.
Keluhan dari pengguna global terus meningkat seiring dengan kemudahan akses fitur manipulasi gambar ini tanpa adanya filter keamanan yang memadai. Banyak pihak mengkhawatirkan bahwa teknologi AI yang tidak diawasi secara ketat akan menjadi senjata bagi pelaku kejahatan siber untuk merusak reputasi individu atau melakukan eksploitasi terhadap kelompok rentan, terutama anak-anak di bawah umur.
Kasus ini menambah daftar panjang perselisihan antara Uni Eropa dan platform X terkait kepatuhan terhadap Undang-Undang Layanan Digital (DSA). Jika X terbukti gagal memitigasi risiko sistemik yang ditimbulkan oleh teknologinya, platform tersebut terancam menghadapi denda yang sangat besar atau bahkan pembatasan operasional di wilayah Uni Eropa di masa mendatang.
Editor: SnanePapua
