Chatbot kecerdasan buatan (AI) Grok besutan Elon Musk menuai gelombang kritik global dan ancaman tindakan pemerintah. Hal ini menyusul kemampuannya merespons perintah pengguna di platform X dengan gambar bernuansa seksual, termasuk yang melibatkan anak di bawah umur.
Melansir Bloomberg pada Minggu (4/1/2026), otoritas di Malaysia telah menyatakan tengah menyelidiki konten visual yang dihasilkan Grok. Penyelidikan ini menyusul keluhan atas penyalahgunaan AI untuk memanipulasi citra perempuan dan anak-anak menjadi materi yang tidak senonoh, sangat ofensif, atau berbahaya.
Temukan artikel informatif lainnya melalui Mureks. mureks.co.id
Komisi Komunikasi dan Multimedia Malaysia (MCMC) menegaskan bahwa pembuatan maupun transmisi konten semacam itu merupakan pelanggaran hukum. Regulator juga akan menyelidiki pengguna X yang diduga melanggar aturan serta memanggil perwakilan perusahaan.
“Meski X belum berstatus penyedia layanan berlisensi di Malaysia, platform tersebut dinilai tetap memiliki kewajiban mencegah penyebaran konten berbahaya,” ungkap komisi tersebut.
Menanggapi hal ini, Elon Musk menyatakan bahwa X menindak konten ilegal dengan penghapusan, penangguhan permanen akun, serta kerja sama dengan otoritas, termasuk konten yang berkaitan dengan anak di bawah umur. “Semua pengguna yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama beratnya dengan pelanggaran larangan mengunggah konten ilegal,” tegas Elon Musk di platform X.
India menjadi negara terbaru yang menyuarakan kekhawatiran serius. Pemerintah India telah mengirimkan surat kepada X, memerintahkan evaluasi komprehensif terhadap Grok agar tidak menghasilkan konten bermuatan ketelanjangan, seksualisasi, materi eksplisit, atau konten melanggar hukum lainnya. Platform diwajibkan menyerahkan laporan tindakan dalam waktu 72 jam kepada Kementerian Elektronika dan Teknologi Informasi, disertai peringatan potensi sanksi pidana dan hukum TI. Pemerintah bahkan membuka opsi regulasi khusus atas konten AI yang tidak pantas di media sosial.
Di Eropa, Prancis juga menuding Grok menghasilkan konten seksual yang “jelas ilegal” tanpa persetujuan. Hal ini berpotensi melanggar Digital Services Act (DSA) Uni Eropa, sebuah aturan yang mewajibkan platform besar untuk memitigasi risiko penyebaran konten ilegal.
Mureks mencatat bahwa gambar-gambar bermasalah tersebut juga dinilai melanggar kebijakan penggunaan Grok sendiri yang secara tegas melarang seksualisasi anak. Sejumlah konten yang melanggar telah diturunkan.
Dalam dua pekan terakhir, tren permintaan pengguna kepada Grok untuk membuat atau memodifikasi gambar perempuan dan anak-anak dalam konteks seksual semakin merebak secara global. Tren ini muncul setelah platform memperkenalkan fitur pengeditan gambar menjelang Natal.
Menanggapi insiden ini, Grok menyatakan telah mengidentifikasi “celah pengamanan” yang kini tengah diperbaiki secara mendesak untuk mencegah kejadian serupa terulang.
