JAKARTA – Kementerian Komunikasi dan Digital (Kemkomdigi) tengah serius mendalami dugaan penyalahgunaan fitur kecerdasan buatan (AI) Grok AI yang terintegrasi di platform X. Teknologi ini disinyalir dimanfaatkan untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi atau deepfake sensitif tanpa persetujuan pemilik gambar.
Kemkomdigi tidak menutup kemungkinan akan menjatuhkan sanksi administratif hingga pemutusan akses terhadap layanan Grok AI maupun platform X. Langkah tegas ini akan diambil apabila ditemukan pelanggaran hukum atau sikap tidak kooperatif dari penyelenggara sistem elektronik terkait.
Liputan informatif lainnya tersedia di Mureks. mureks.co.id
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, menjelaskan bahwa hasil penelusuran awal Mureks menunjukkan Grok AI belum memiliki pengaturan yang jelas dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia. Kondisi ini dinilai berpotensi melanggar hak privasi serta hak atas citra diri seseorang.
Menurut Sabar, manipulasi digital terhadap foto pribadi bukan sekadar persoalan kesusilaan. Praktik tersebut juga dianggap sebagai bentuk perampasan kendali individu atas identitas visualnya, yang dapat berdampak pada kerugian psikologis, sosial, hingga reputasi korban. Kemkomdigi saat ini berkoordinasi dengan berbagai penyelenggara sistem elektronik untuk memastikan adanya mekanisme perlindungan yang efektif.
Upaya tersebut meliputi penguatan sistem moderasi konten, pencegahan pembuatan deepfake bermuatan seksual, serta penyediaan prosedur penanganan cepat atas laporan pelanggaran privasi dan hak citra diri. Sabar menegaskan, “Setiap penyelenggara sistem elektronik wajib memastikan teknologi yang disediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, atau perusakan martabat manusia.”
Kemkomdigi juga mengingatkan bahwa kepatuhan terhadap peraturan perundang-undangan Indonesia berlaku bagi seluruh platform digital yang beroperasi di Tanah Air. Jika ketidakpatuhan atau sikap tidak kooperatif terbukti, pemerintah berwenang menjatuhkan sanksi hingga pemblokiran akses layanan Grok AI dan platform X.
