Fitur kecerdasan buatan (AI) Grok di platform X tengah menjadi sorotan tajam di berbagai negara, termasuk Indonesia. Kemampuan Grok AI untuk memanipulasi foto seseorang menjadi konten vulgar telah memicu gelombang kekhawatiran dan reaksi keras dari regulator global.
Sejumlah laporan, seperti yang dikutip dari The Verge pada Kamis (8/1/2026), menunjukkan bahwa konten yang dihasilkan Grok tidak hanya bersifat sugestif, tetapi juga berpotensi melanggar hukum terkait nonconsensual intimate imagery (NCII) dan materi pelecehan seksual anak (CSAM). Situasi ini mendorong otoritas di berbagai belahan dunia untuk mengambil tindakan.
Mureks menghadirkan beragam artikel informatif untuk pembaca. mureks.co.id
Regulator Global Bersuara Tegas
Otoritas komunikasi Inggris, Ofcom, telah menyatakan telah menjalin kontak mendesak dengan X dan xAI. Langkah ini diambil untuk memastikan kepatuhan kedua perusahaan terhadap kewajiban hukum dalam melindungi pengguna dari konten berbahaya. Di Uni Eropa, juru bicara Komisi Eropa Thomas Regnier menyebut keluaran Grok AI sebagai “ilegal dan memprihatinkan,” menggarisbawahi seriusnya masalah ini.
India bahkan mengambil langkah yang lebih tegas. Negara tersebut mengancam akan mencabut kekebalan hukum X atas konten buatan pengguna, kecuali perusahaan segera memberikan penjelasan mengenai langkah-langkah pencegahan konten ilegal yang telah diambil. Sementara itu, regulator di Australia, Brasil, Prancis, dan Malaysia juga turut memantau perkembangan kasus ini dengan cermat.
Di Amerika Serikat, perdebatan mengenai perlindungan hukum platform digital melalui Pasal 230 Undang-Undang Kesopanan Komunikasi kembali mencuat. Senator Ron Wyden, salah satu perumus pasal tersebut, menilai bahwa aturan itu seharusnya tidak melindungi keluaran AI yang dibuat oleh perusahaan itu sendiri. Ia mendesak negara bagian untuk bertindak jika pemerintah federal tidak segera bergerak.
Mureks mencatat bahwa beberapa konten Grok juga dinilai berpotensi melanggar Take It Down Act, undang-undang baru yang memberikan kewenangan kepada Departemen Kehakiman AS untuk menindak penyebaran NCII, termasuk yang difasilitasi oleh AI. Platform yang gagal menghapus konten bermasalah juga dapat menjadi target Federal Trade Commission (FTC). Meskipun demikian, hingga kini belum ada langkah penegakan hukum yang jelas dari otoritas federal. Departemen Kehakiman AS sendiri telah menyatakan akan menindak tegas pelanggaran terkait CSAM.
Ancaman Blokir dan Sanksi Pidana di Indonesia
Di Indonesia, Kementerian Komunikasi dan Digital (Kemkomdigi) menegaskan akan menjatuhkan sanksi berat jika X dan Grok AI tidak segera berkooperatif dalam memperbaiki sistem keamanan mereka. Sanksi tersebut mencakup tindakan administratif hingga pemutusan akses layanan atau pemblokiran di wilayah Indonesia.
Kemkomdigi memandang manipulasi digital ini bukan sekadar masalah kesusilaan, melainkan sebagai bentuk perampasan kendali individu atas identitas visualnya. Praktik deepfake semacam ini, menurut Kemkomdigi, dapat berdampak fatal pada kerugian psikologis bagi korban, kerusakan reputasi sosial di ruang publik, serta pelanggaran hak atas citra diri (right to one’s image).
Selain sanksi administratif, Kemkomdigi juga mengingatkan bahwa penyedia layanan kecerdasan buatan maupun pengguna yang terbukti memproduksi dan/atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak dapat dikenakan sanksi pidana sesuai ketentuan hukum yang berlaku. Sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, pengaturan terkait pornografi tercantum antara lain dalam Pasal 172 dan Pasal 407. Pasal 172 mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan, sedangkan Pasal 407 mengatur ancaman pidana penjara paling singkat 6 bulan dan paling lama 10 tahun atau pidana denda sesuai ketentuan.
