SNANEPAPUA.COM – Dunia teknologi kembali diguncang isu serius terkait penyalahgunaan kecerdasan buatan (AI). Internet Watch Foundation (IWF) baru-baru ini melaporkan temuan mengejutkan berupa gambar eksploitasi seksual anak yang diduga kuat dihasilkan menggunakan Grok, platform AI milik Elon Musk yang terintegrasi dengan media sosial X.
Laporan ini muncul setelah para analis dari IWF melakukan investigasi mendalam di berbagai forum tersembunyi di jaringan gelap atau dark web. Di sana, mereka menemukan sejumlah materi visual ilegal yang dibagikan oleh para pengguna yang secara terang-terangan mengklaim telah memanfaatkan kecanggihan teknologi Grok untuk menciptakan konten mengerikan tersebut.
IWF menyatakan bahwa gambar-gambar yang ditemukan memiliki karakteristik visual yang sangat mirip dengan hasil olahan model bahasa besar (LLM) generasi terbaru. Meskipun Grok dirancang dengan berbagai protokol batasan keamanan, para pelaku kejahatan siber tampaknya terus mencari celah untuk memanipulasi perintah atau prompt guna menghasilkan konten yang melanggar hukum dan norma kemanusiaan.
Temuan ini meningkatkan kekhawatiran global mengenai efektivitas regulasi keamanan pada alat AI generatif yang saat ini berkembang pesat. Para ahli memperingatkan bahwa tanpa pengawasan yang ketat serta pembaruan filter keamanan yang mumpuni, teknologi yang seharusnya membantu produktivitas manusia justru bisa disalahgunakan untuk tindakan kriminal yang sangat merugikan, terutama terhadap kelompok rentan seperti anak-anak.
Hingga saat ini, pihak pengembang Grok maupun perusahaan X belum memberikan pernyataan resmi terkait temuan spesifik di dark web tersebut. Namun, kasus ini dipastikan akan menambah tekanan bagi perusahaan teknologi besar untuk memperketat protokol keamanan mereka demi mencegah penyebaran materi pelecehan seksual anak di ruang digital global.
Editor: SnanePapua
