Jakarta, Mureks – Kementerian Komunikasi dan Digital (Kemkomdigi) secara tegas mengancam akan memblokir platform media sosial X dan chatbot kecerdasan buatan (AI) Grok milik Elon Musk di Indonesia. Ancaman ini disampaikan pada Kamis, 08 Januari 2026, menyusul temuan penyalahgunaan Grok AI untuk memproduksi konten pornografi berbasis deepfake yang meresahkan publik.
Fenomena ini bermula dari kehebohan di platform X, di mana sejumlah pengguna memanfaatkan kecanggihan Grok AI untuk menghasilkan gambar-gambar seksual tanpa izin pemilik foto asli. Pengguna kerap menyertakan gambar wanita dalam unggahan mereka disertai permintaan spesifik seperti “pakaikan dia bikini” atau “lepaskan pakaiannya”.
Artikel informatif lainnya dapat ditemukan dalam liputan Mureks. mureks.co.id
Grok AI berulang kali menuruti permintaan tersebut, menghasilkan gambar yang memanipulasi pakaian atau pose seseorang menjadi konten yang bersifat seksual.
Kemkomdigi Soroti Moderasi dan Ancaman Sanksi
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan bahwa hasil temuan awal menunjukkan Grok AI belum memiliki sistem moderasi yang memadai. Fitur AI ini dinilai belum mampu mencegah pembuatan konten pornografi berbasis foto nyata warga Indonesia.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan konten pornografi berbasis foto pribadi,” ujar Alexander di Jakarta, dalam keterangan resmi Rabu (7/1/2026).
Pemerintah menegaskan, jika platform X dan Grok AI tidak segera berkooperatif dalam memperbaiki sistem keamanan mereka, sanksi berat menanti. Sanksi tersebut mencakup tindakan administratif hingga pemutusan akses layanan atau blokir di wilayah Indonesia.
Kemkomdigi memandang manipulasi digital ini bukan hanya masalah kesusilaan, melainkan juga bentuk perampasan kendali individu atas identitas visualnya. Praktik deepfake semacam ini dapat berdampak fatal pada kerugian psikologis korban, kerusakan reputasi sosial di ruang publik, serta pelanggaran hak atas citra diri.
Bareskrim Polri: Manipulasi Foto Mesum Lewat Grok AI Bisa Dipidana
Bareskrim Polri turut menanggapi fenomena manipulasi foto seseorang menjadi konten vulgar menggunakan fitur Grok AI di platform X. Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Himawan Bayu Aji, menjelaskan bahwa tindakan pengeditan foto semacam itu merupakan bentuk pidana berupa deepfake.
“Jadi memang perkembangan teknologi itu sekarang mengarah kepada artificial intelligence ya itu termasuk deepfake itu menggunakan AI,” kata Himawan menjawab pertanyaan wartawan di Bareskrim Polri, Jakarta Selatan, Rabu (7/1/2026).
Himawan menegaskan, jika terbukti ada manipulasi data elektronik oleh orang lain tanpa persetujuan pemiliknya, tindakan tersebut dapat diproses pidana. Aturan ini juga berlaku untuk manipulasi foto mesum melalui aplikasi selain Grok AI.
“Selama itu bisa diklarifikasi bahwa itu adalah manipulasi data elektronik maka itu menjadi suatu hal yang dipidana,” imbuhnya.
Urgensi Aturan AI dan Literasi Digital
Saat ini, aturan terkait AI di Indonesia masih sebatas Surat Edaran yang bersifat imbauan tanpa sanksi tegas. Pemerintah tengah menyiapkan Peraturan Presiden (Perpres) tentang Kecerdasan Artifisial (AI) untuk mengisi kekosongan regulasi ini.
Namun, Ketua Indonesia Cyber Security Forum (ICSF) Ardi Sutedja menilai bahwa regulasi saja tidak akan menyelesaikan persoalan secara menyeluruh. “Segala teknologi itu tidak bisa melulu bertumpu pada peraturan. Peraturan hanya membatasi boleh dan tidak boleh,” ujar Ardi kepada Mureks, Rabu (7/1/2026).
Menurut Ardi, persoalan utama justru terletak pada literasi digital terkait teknologi dan kesadaran risiko di masyarakat. Tanpa pemahaman yang memadai, regulasi hanya akan menjadi dokumen administratif.
“Yang paling penting itu bagaimana kita mengajari masyarakat untuk paham, bahwa tidak semua teknologi itu tepat dan aman digunakan,” ungkap dia.
Mureks mencatat bahwa hingga saat ini Indonesia belum memiliki kurikulum yang memadai terkait literasi teknologi, etika digital, dan risiko AI, baik di tingkat pendidikan dasar maupun lanjutan.
“Di sekolah tidak ada, di masyarakat tidak ada, bahkan pejabat pun banyak yang tidak pernah diajari. Kita selalu lompat dari satu teknologi ke teknologi lain, tapi tidak pernah tuntas membahas risikonya,” tuturnya.
Terkait rencana Perpres AI, Ardi menilai langkah itu tetap penting, namun tidak boleh berdiri sendiri. Pemerintah, menurutnya, harus mengedepankan pendekatan multi-stakeholder dengan melibatkan industri, akademisi, komunitas teknologi, dan masyarakat.
Referensi penulisan: inet.detik.com
