Kementerian Komunikasi dan Digital (Kemkomdigi) secara serius menindaklanjuti dugaan penyalahgunaan fitur kecerdasan buatan Grok AI yang terintegrasi pada platform X. Teknologi ini diduga kuat dimanfaatkan untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi yang bersifat sensitif tanpa persetujuan pemiliknya.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, menyampaikan hasil penelusuran awal yang mengkhawatirkan. Menurutnya, Grok AI belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah praktik tersebut. Kondisi ini dinilai berisiko tinggi membuka celah produksi dan distribusi konten pornografi berbasis foto nyata warga Indonesia.
Temukan artikel informatif lainnya melalui Mureks. mureks.co.id
Regulasi Belum Memadai, Ancaman Pelanggaran Privasi
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi,” ujar Alexander di Jakarta, Rabu (7/1/2026).
Kemkomdigi memandang manipulasi digital terhadap foto pribadi bukan sekadar persoalan kesusilaan semata. Praktik tersebut dipandang sebagai perampasan kendali individu atas identitas visual, yang dapat berdampak serius pada kondisi psikologis, sosial, hingga reputasi korban.
Alexander menambahkan, pihaknya kini tengah berkoordinasi intensif dengan para Penyelenggara Sistem Elektronik (PSE) untuk memastikan adanya mekanisme pelindungan yang efektif. Upaya ini mencakup penguatan moderasi konten, pencegahan pembuatan deepfake asusila, serta percepatan penanganan laporan pelanggaran privasi.
“Setiap PSE wajib memastikan teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” tegasnya.
Sanksi Tegas Menanti Platform yang Tidak Patuh
Kepatuhan terhadap regulasi Indonesia menjadi kewajiban seluruh PSE yang beroperasi di Tanah Air. Kemkomdigi mengingatkan bahwa sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X dapat dijatuhkan jika ditemukan ketidakpatuhan atau sikap tidak kooperatif. Langkah tegas ini disebut sebagai bentuk perlindungan negara terhadap hak digital warga.
Selain itu, Kemkomdigi menegaskan bahwa penyedia layanan kecerdasan buatan maupun pengguna yang terbukti memproduksi atau menyebarkan konten pornografi dan manipulasi citra pribadi tanpa hak dapat dijerat sanksi administratif maupun pidana. Penegakan hukum akan dilakukan sesuai ketentuan peraturan perundang-undangan yang berlaku.
Mureks mencatat bahwa sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana pada 2 Januari 2026, pengaturan terkait pornografi semakin diperjelas. Pasal 172 mendefinisikan pornografi sebagai media bermuatan kecabulan atau eksploitasi seksual, sementara Pasal 407 mengatur ancaman pidana penjara enam hingga sepuluh tahun atau pidana denda.
Korban Diimbau Melapor
Alexander juga mengingatkan masyarakat yang menjadi korban manipulasi foto atau deepfake asusila untuk tidak ragu menempuh jalur hukum. Korban dapat melapor kepada aparat penegak hukum maupun mengajukan pengaduan resmi ke Kemkomdigi.
“Kami mengimbau seluruh pihak menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, privasi dan hak atas citra diri setiap warga harus dihormati,” pungkas Alexander.
