Kementerian Komunikasi dan Digital (Komdigi) tengah menindaklanjuti dugaan serius terkait penyalahgunaan fitur kecerdasan buatan (AI) Grok AI pada platform X. Teknologi tersebut disinyalir dimanfaatkan secara masif untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi atau deepfake tanpa persetujuan korban.
Direktur Jenderal Pengawasan Ruang Digital Komdigi, Alexander Sabar, mengungkapkan bahwa berdasarkan penelusuran awal, Grok AI belum memiliki sistem pengamanan yang memadai. Ketiadaan pengaturan eksplisit untuk mencegah konten pornografi berbasis foto warga Indonesia dinilai berisiko tinggi melanggar privasi dan hak atas citra diri.
Ikuti artikel informatif lainnya di Mureks. mureks.co.id
Komdigi Soroti Keamanan Grok AI
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi,” ujar Alexander dalam keterangannya pada Rabu (7/1/2026).
Komdigi menegaskan, manipulasi digital terhadap foto pribadi bukan sekadar pelanggaran kesusilaan, melainkan bentuk perampasan identitas visual yang berdampak buruk pada psikologis dan reputasi korban. Mureks mencatat bahwa isu ini menjadi perhatian utama pemerintah dalam menjaga ruang digital yang aman dan beretika.
Sebagai langkah tegas, Komdigi saat ini berkoordinasi intensif dengan para Penyelenggara Sistem Elektronik (PSE), termasuk platform X, untuk memperkuat moderasi konten dan mempercepat penanganan laporan pelanggaran. Alexander Sabar memperingatkan bahwa kepatuhan terhadap hukum Indonesia adalah kewajiban mutlak bagi seluruh PSE yang beroperasi di Tanah Air.
“Apabila ditemukan ketidakpatuhan atau sikap tidak kooperatif, Komdigi dapat menjatuhkan sanksi administratif hingga pemutusan akses (blokir) layanan Grok AI dan platform X,” tegas Alexander.
Payung Hukum Baru: UU No. 1 Tahun 2023
Tindakan tegas ini didasarkan pada Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) yang telah berlaku efektif sejak 2 Januari 2026. Dalam aturan baru tersebut, konten pornografi diatur secara spesifik pada Pasal 172 dan Pasal 407.
Berdasarkan Pasal 407, pelaku produksi atau penyebar konten pornografi, termasuk manipulasi citra pribadi tanpa hak, terancam pidana penjara minimal 6 bulan hingga maksimal 10 tahun, atau denda materiil yang signifikan.
Imbauan bagi Masyarakat
Pemerintah mengimbau masyarakat yang menjadi korban deepfake atau manipulasi foto asusila untuk segera menempuh jalur hukum melalui aparat penegak hukum atau melaporkannya langsung ke kanal pengaduan Komdigi.
“Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum; ada privasi dan hak atas citra diri setiap warga yang harus dihormati,” Alexander memungkaskan.
Referensi penulisan: www.liputan6.com
