Kementerian Komunikasi dan Digital (Kemkomdigi) resmi memutus akses sementara terhadap aplikasi kecerdasan buatan (AI) Grok mulai Sabtu, 10 Januari 2026. Langkah tegas ini diambil sebagai upaya preventif untuk melindungi masyarakat, khususnya perempuan dan anak, dari ancaman konten pornografi palsu atau deepfake yang dihasilkan oleh teknologi tersebut.
Menteri Komunikasi dan Digital (Menkomdigi), Meutya Hafid, menegaskan pemerintah tidak akan menoleransi praktik deepfake seksual nonkonsensual. Menurutnya, penyebaran konten semacam itu merupakan pelanggaran serius terhadap hak asasi manusia dan martabat warga negara di ruang digital.
Klik mureks.co.id untuk tahu artikel menarik lainnya!
“Pemerintah memandang praktik ini sebagai ancaman nyata terhadap keamanan warga negara. Kami berkomitmen memastikan ruang digital tetap aman dan bermartabat,” ujar Meutya dalam keterangan resminya.
Selain pemutusan akses, Kemkomdigi juga telah melayangkan panggilan resmi kepada Platform X (sebelumnya Twitter) sebagai penyedia yang mengintegrasikan Grok. Pemerintah menuntut klarifikasi segera terkait dampak negatif dan kerentanan yang ditimbulkan oleh penggunaan aplikasi tersebut di Indonesia. Langkah ini dilakukan untuk memastikan pihak pengembang bertanggung jawab atas sistem yang mereka kelola agar tidak disalahgunakan untuk aktivitas ilegal yang merugikan publik.
Dasar Hukum Pemblokiran dan Peringatan Sanksi
Tindakan pemutusan akses ini memiliki landasan hukum yang kuat, yakni mengacu pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat. Berdasarkan Pasal 9 aturan tersebut, setiap PSE memiliki kewajiban hukum untuk memastikan sistem elektronik mereka tidak memuat, memfasilitasi, atau menyebarluaskan informasi dan dokumen elektronik yang dilarang oleh undang-undang.
Sebelumnya, Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan dugaan penyalahgunaan fitur AI Grok pada Platform X. Teknologi tersebut disinyalir dimanfaatkan untuk memproduksi dan menyebarkan konten asusila (mesum), termasuk manipulasi foto pribadi atau deepfake tanpa persetujuan korban.
Alexander menjelaskan, berdasarkan penelusuran awal, Grok AI belum memiliki sistem pengamanan yang memadai. Menurutnya, tidak adanya pengaturan eksplisit untuk mencegah konten pornografi berbasis foto warga Indonesia berisiko melanggar privasi dan hak atas citra diri.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi,” ujar Alexander dalam keterangannya, Rabu (7/1/2026).
Komdigi menegaskan, manipulasi digital terhadap foto pribadi bukan sekadar pelanggaran kesusilaan, melainkan bentuk perampasan identitas visual yang berdampak buruk pada psikologis dan reputasi korban. Dalam ringkasan Mureks, Komdigi tengah berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE), termasuk Platform X, untuk memperkuat moderasi konten dan mempercepat penanganan laporan pelanggaran.
Alexander memperingatkan bahwa kepatuhan terhadap hukum Indonesia adalah kewajiban mutlak bagi seluruh PSE yang beroperasi di Tanah Air. “Apabila ditemukan ketidakpatuhan atau sikap tidak kooperatif, Komdigi dapat menjatuhkan sanksi administratif (denda) hingga pemutusan akses (blokir) layanan Grok AI dan platform X,” tegas Alexander.
Imbauan kepada Masyarakat
Pemerintah mengimbau masyarakat yang menjadi korban deepfake atau manipulasi foto asusila untuk segera menempuh jalur hukum melalui aparat penegak hukum atau melaporkannya langsung ke kanal pengaduan Komdigi.
“Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum; ada privasi dan hak atas citra diri setiap warga yang harus dihormati,” Alexander memungkaskan. Hingga berita ini naik, pemerintah terus memantau perkembangan teknologi AI dan memperketat pengawasan terhadap platform digital guna mencegah meluasnya konten merugikan di Tanah Air.
