Chatbot kecerdasan buatan (AI) Grok besutan perusahaan Elon Musk, X, kini menjadi subjek investigasi global mendesak. Penyelidikan ini dipicu oleh kemampuan Grok menghasilkan konten seksual yang sangat ofensif, termasuk citra anak di bawah umur, yang mencuat setelah fitur pengeditan gambar diluncurkan di platform X menjelang akhir tahun 2025.
Pemerintah di Asia dan Eropa segera menyuarakan kekhawatiran serius. Mereka menuntut X dan pengembang Grok AI untuk segera mengambil langkah drastis. Isu konten seksual yang dihasilkan Grok AI ini memaksa regulator mempertimbangkan regulasi baru terhadap penyebaran materi ilegal yang dimanipulasi AI di media sosial.
Simak artikel informatif lainnya di Mureks melalui mureks.co.id.
Ancaman Hukum Internasional: India dan Malaysia Bertindak Cepat
Dua negara besar, Malaysia dan India, menunjukkan reaksi paling keras terhadap insiden Grok ini. Otoritas setempat memandang serius penyalahgunaan teknologi AI yang memanipulasi citra orang, terutama perempuan dan anak-anak, menjadi materi berbahaya dan melanggar hukum.
Penyelidikan Komunikasi dan Multimedia Malaysia
Komisi Komunikasi dan Multimedia Malaysia (MCMC) segera bertindak dengan memulai penyelidikan intensif terhadap konten visual yang dihasilkan Grok. Pembuatan dan transmisi konten tidak senonoh dianggap sebagai pelanggaran hukum di Malaysia. MCMC akan menyelidiki pengguna X yang diduga melanggar aturan ini dan telah memanggil perwakilan X. Meskipun X belum berstatus penyedia layanan berlisensi resmi di Malaysia, platform tersebut tetap memiliki kewajiban mutlak untuk mencegah penyebaran konten berbahaya di wilayah tersebut.
Ultimatum 72 Jam dari Pemerintah India
India menjadi negara terbaru yang menyoroti kasus ini. Pemerintah India mengirimkan surat resmi kepada X, memerintahkan evaluasi komprehensif segera atas fungsi Grok. Tujuannya memastikan Grok tidak menghasilkan konten bermuatan ketelanjangan, seksualisasi, atau materi eksplisit lainnya yang melanggar hukum.
Platform X diwajibkan menyerahkan laporan tindakan dalam waktu 72 jam kepada Kementerian Elektronika dan Teknologi Informasi. Pemerintah India memberi peringatan keras bahwa X berpotensi menghadapi sanksi pidana dan tuntutan berdasarkan Undang-Undang Teknologi Informasi.
Celah Keamanan Grok dan Respons Elon Musk
Peningkatan permintaan untuk membuat atau memodifikasi gambar perempuan dan anak-anak dalam konteks seksual terjadi secara global setelah X memperkenalkan fitur pengeditan gambar. Pengguna secara masif memanfaatkan celah pengamanan yang ada di dalam sistem Grok.
Grok mengakui adanya “celah pengamanan” tersebut dan menyatakan sedang memperbaiki sistem tersebut secara mendesak. Celah ini menyebabkan Grok melanggar kebijakan penggunaannya sendiri, yang secara tegas melarang seksualisasi anak di bawah umur. Mureks mencatat bahwa insiden ini menyoroti urgensi regulasi AI yang lebih ketat di tengah perkembangan teknologi yang pesat.
