Kementerian Komunikasi dan Digital (Komdigi) secara resmi mengambil tindakan tegas terhadap platform media sosial X, yang sebelumnya dikenal sebagai Twitter, serta fitur kecerdasan buatan (AI) Grok AI. Langkah ini menyusul dugaan penyalahgunaan teknologi AI tersebut untuk produksi dan penyebaran konten asusila melalui manipulasi foto pribadi atau deepfake tanpa izin.
Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, mengungkapkan bahwa hasil temuan awal menunjukkan Grok AI belum dilengkapi sistem moderasi yang memadai. Fitur AI ini dinilai belum mampu mencegah pembuatan konten pornografi yang memanfaatkan foto nyata warga Indonesia.
Artikel informatif lainnya dapat dibaca melalui Mureks. mureks.co.id
Ancaman Blokir dan Dasar Hukum
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan konten pornografi berbasis foto pribadi,” ujar Alexander di Jakarta, dalam keterangan resmi Rabu (7/1/2026).
Pemerintah menegaskan, jika platform X dan Grok AI tidak segera menunjukkan kooperasi untuk memperbaiki sistem keamanan mereka, sanksi berat akan menanti. Sanksi ini dapat berupa tindakan administratif hingga pemutusan akses layanan atau blokir total di wilayah Indonesia.
Komdigi memandang manipulasi digital ini bukan hanya masalah kesusilaan, tetapi juga sebagai bentuk perampasan kendali individu atas identitas visual mereka. Praktik deepfake semacam ini dapat menimbulkan kerugian psikologis yang fatal bagi korban, merusak reputasi sosial di ruang publik, serta melanggar hak atas citra diri seseorang.
“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” tegas Alex.
Selain sanksi administratif, Komdigi juga mengingatkan bahwa penyedia layanan kecerdasan buatan maupun pengguna yang terbukti memproduksi atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak dapat dikenakan sanksi pidana sesuai ketentuan hukum yang berlaku. Mureks mencatat bahwa sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, pengaturan terkait pornografi semakin diperkuat. Pasal 172 KUHP mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan, sementara Pasal 407 mengatur ancaman pidana penjara paling singkat 6 bulan dan paling lama 10 tahun atau pidana denda sesuai ketentuan.
Perlindungan Korban dan Imbauan
Alexander menambahkan, masyarakat yang menjadi korban manipulasi foto, deepfake asusila, atau pelanggaran hak citra diri dapat menempuh upaya hukum melalui mekanisme yang tersedia. Ini termasuk pelaporan kepada aparat penegak hukum dan pengaduan langsung ke Komdigi.
“Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum. Ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi,” pungkas Alexander.
