Kementerian Komunikasi dan Digital (Komdigi) mengancam akan mengambil tindakan tegas berupa pemutusan akses terhadap layanan Grok AI dan platform X. Ancaman ini muncul menyusul maraknya tren penyebaran konten deepfake asusila yang memanfaatkan fitur kecerdasan artifisial (AI) untuk memanipulasi foto pribadi tanpa izin.
Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, mengungkapkan hasil penelusuran awal menunjukkan bahwa Grok AI, yang dimiliki oleh Elon Musk, belum memiliki pengaturan yang memadai. Mureks mencatat, kelemahan sistem ini dinilai gagal mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia.
Baca liputan informatif lainnya di Mureks. mureks.co.id
“Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander Sabar, dikutip dari pernyataan resmi Komdigi pada Rabu (07/1/2026).
Alexander lebih lanjut menjelaskan bahwa manipulasi foto pribadi secara digital merupakan bentuk perampasan kendali individu atas identitas visualnya. Kondisi ini berpotensi menimbulkan kerugian signifikan, baik secara psikologis, sosial, maupun reputasi bagi korban.
Komdigi Tuntut Penguatan Moderasi Konten
Saat ini, Komdigi tengah berkoordinasi intensif dengan para Penyelenggara Sistem Elektronik (PSE), termasuk platform X, untuk memastikan ketersediaan mekanisme perlindungan yang efektif. Pemerintah menuntut penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta prosedur penanganan cepat atas laporan pelanggaran.
Komdigi mengingatkan bahwa kewajiban kepatuhan terhadap peraturan perundang-undangan melekat pada seluruh PSE yang beroperasi di wilayah Indonesia. “Apabila ditemukan ketidakpatuhan atau sikap tidak kooperatif, Komdigi dapat menjatuhkan sanksi administratif kepada Grok AI dan platform X,” demikian tertulis dalam pernyataan resmi Komdigi.
Ancaman Pidana bagi Pelaku dan Penyebar
Selain menyasar korporasi, ancaman hukum juga berlaku bagi pengguna individu. Penyedia layanan AI maupun pengguna yang terbukti memproduksi atau menyebarkan konten manipulasi foto pribadi tanpa hak dapat dikenakan sanksi pidana. Hal ini merujuk pada Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) yang berlaku efektif sejak 2 Januari 2026, khususnya Pasal 172 dan Pasal 407.
Pasal 407 KUHP secara spesifik mengatur ancaman pidana penjara paling singkat 6 bulan dan paling lama 10 tahun atau pidana denda bagi pelaku yang melanggar norma kesusilaan melalui media.
Pemerintah juga mengimbau masyarakat yang menjadi korban manipulasi foto AI untuk menempuh upaya hukum dan melaporkan kejadian tersebut kepada aparat penegak hukum serta Komdigi.
“Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi,” tutup Alexander Sabar.
