Internet Watch Foundation (IWF), sebuah lembaga pemantau konten daring di Inggris, mengungkapkan dugaan penggunaan kecerdasan buatan (AI) Grok yang dikembangkan oleh xAI untuk menghasilkan gambar seksual anak. Fitur Grok Imagine, yang tersedia di platform media sosial X, disebut-sebut menjadi alat dalam pembuatan materi tersebut.
Menurut IWF, hasil analisis mereka menemukan materi yang memperlihatkan anak-anak berusia sekitar 11 hingga 13 tahun dalam pose yang bersifat seksual. Konten semacam ini dilaporkan beredar di forum gelap (dark web), di mana para pengguna bahkan secara terbuka membanggakan penggunaan Grok untuk menciptakan gambar-gambar tersebut, seperti yang dikutip dari laporan BBC pada Jumat (9/1/2026).
Baca liputan informatif lainnya di Mureks. mureks.co.id
Temuan ini menambah panjang daftar kontroversi yang menyelimuti Grok. Sebelumnya, AI ini telah menjadi sorotan karena kemampuannya mengubah foto orang menjadi gambar vulgar atau seksual tanpa izin. Kelompok pengawas dan pengguna di berbagai negara, termasuk Indonesia, telah menyatakan kekhawatiran bahwa fitur tersebut membuka celah besar bagi penyalahgunaan teknologi AI yang berbahaya.
Regulator Inggris dan Uni Eropa Bertindak Tegas
Menyikapi isu ini, otoritas Inggris, regulator komunikasi Ofcom, segera mengambil tindakan dengan menghubungi pihak X dan xAI. Kontak darurat ini bertujuan meminta penjelasan terkait potensi pelanggaran tanggung jawab keselamatan online. Ofcom menyatakan akan menilai apakah ada pelanggaran hukum yang memerlukan investigasi lebih lanjut, khususnya mengenai kemampuan alat AI tersebut menghasilkan gambar anak-anak yang diseksualkan.
Selain itu, regulator di Uni Eropa juga menegaskan akan ‘sangat serius’ memeriksa kasus ini. Anggota Komisi Eropa menekankan bahwa konten seksual anak yang dihasilkan AI tidak hanya seronok atau sugestif, tetapi juga ilegal dan tidak dapat ditoleransi.
Parlemen Inggris Hentikan Penggunaan X
Di tingkat internasional, Komunitas Parlemen Inggris bahkan mengambil langkah drastis. Commons Women and Equalities Committee memutuskan untuk menghentikan penggunaan platform X sebagai salah satu kanal resmi mereka, menyusul skandal konten AI yang eksplisit ini.
Respons X dan xAI Disorot
Menanggapi tekanan dan kritik yang meningkat, pihak X dan xAI melalui akun resmi mereka menyatakan komitmen untuk menghapus konten ilegal, termasuk materi eksploitasi anak, serta menangguhkan akun yang melanggar aturan. Platform media sosial milik Elon Musk ini juga berjanji akan bekerja sama dengan pemerintah dan penegak hukum guna memastikan platform memenuhi kewajiban hukum di berbagai yurisdiksi.
Namun, kritik terhadap xAI tetap tajam. Banyak pihak menilai kebijakan internal serta sistem moderasi Grok belum efektif dalam mencegah atau memblokir permintaan yang memungkinkan terjadinya penyalahgunaan AI untuk membuat konten yang ilegal dan berbahaya. Mureks mencatat bahwa efektivitas moderasi menjadi kunci dalam mengatasi masalah ini.
