JAKARTA – Direktorat Tindak Pidana Siber Bareskrim Polri secara tegas menyatakan bahwa praktik manipulasi foto seseorang menjadi konten vulgar menggunakan fitur kecerdasan buatan Grok AI di platform X berpotensi pidana jika dilakukan tanpa persetujuan pemilik foto asli. Pernyataan ini muncul menyusul maraknya kasus penyalahgunaan teknologi AI yang meresahkan masyarakat.
Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Himawan Bayu Aji, menjelaskan bahwa pengeditan foto berbasis AI ini masuk dalam kategori kejahatan deepfake. Fenomena ini, menurutnya, telah menjadi perhatian serius kepolisian seiring dengan perkembangan pesat teknologi digital.
Temukan artikel informatif lainnya melalui Mureks. mureks.co.id
Bareskrim Selidiki Unsur Pidana Deepfake
“Jadi memang perkembangan teknologi itu sekarang mengarah kepada artificial intelligence, ya itu termasuk deepfake itu menggunakan AI,” kata Himawan saat ditemui wartawan di Bareskrim Polri, Jakarta Selatan, Rabu (7/1/2026).
Himawan menegaskan bahwa penyidik kini tengah mendalami dan melakukan penelusuran terhadap pola penyalahgunaan teknologi tersebut. Proses ini krusial untuk memastikan adanya unsur pidana dalam setiap kasus yang muncul.
“Karena itu memang kita sedang melakukan penyelidikan ke arah sana,” lanjutnya.
Ia memastikan kepolisian tidak akan menutup mata terhadap potensi kejahatan siber berbasis AI. Setiap manipulasi data elektronik tanpa izin pemiliknya, kata Himawan, dapat diproses secara hukum. Ketentuan ini berlaku umum dan tidak terbatas pada penggunaan Grok AI semata.
“Selama itu bisa diklarifikasi bahwa itu adalah manipulasi data elektronik maka itu menjadi suatu hal yang dipidana,” imbuhnya. Himawan menekankan substansi pidana terletak pada pelanggaran hak dan persetujuan pemilik data.
Kemkomdigi Soroti Moderasi Grok AI yang Lemah
Kasus ini mencuat setelah Kementerian Komunikasi dan Digital (Kemkomdigi) mengambil langkah tegas terhadap platform X. Grok AI diduga digunakan sebagai alat produksi dan penyebaran konten asusila berbasis manipulasi foto pribadi tanpa izin.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, menyebut temuan awal menunjukkan lemahnya sistem moderasi Grok AI. Fitur tersebut dinilai belum memiliki pengamanan yang memadai untuk mencegah pembuatan konten pornografi berbasis foto nyata warga Indonesia.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan konten pornografi berbasis foto pribadi,” ujar Alexander dalam keterangan resminya di Jakarta pada Rabu (7/1/2026).
Kemkomdigi menilai praktik deepfake bukan sekadar pelanggaran kesusilaan, melainkan juga perampasan hak atas citra diri. Dampaknya disebut bisa merusak reputasi, kondisi psikologis, hingga kehidupan sosial korban.
Mureks mencatat bahwa Indonesia juga bukan negara pertama yang mempersoalkan Grok AI kepada perusahaan X milik Elon Musk. Sebelumnya, Prancis, India, dan Malaysia telah lebih dulu menyuarakan keberatan terkait potensi pelanggaran hukum dan etika dari teknologi tersebut.
Koordinasi lintas lembaga kini terus dilakukan untuk memastikan ruang digital tidak menjadi ladang kejahatan berbasis AI. Penegakan hukum dipastikan berjalan seiring penguatan regulasi dan pengawasan terhadap platform digital global.
