Jakarta, Mureks – Direktorat Tindak Pidana Siber Bareskrim Polri menegaskan bahwa tindakan manipulasi foto seseorang menjadi konten vulgar menggunakan fitur kecerdasan buatan (AI) Grok pada platform media sosial X dapat dipidana. Penegasan ini disampaikan menyusul maraknya fenomena deepfake yang meresahkan masyarakat.
Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Himawan Bayu Aji, menjelaskan bahwa pengeditan foto tanpa izin pemiliknya merupakan bentuk pidana berupa deepfake. Ia menyebut, fenomena tersebut telah menjadi perhatian dan dalam pengawasan pihak kepolisian.
Artikel informatif lainnya dapat dibaca di Mureks mureks.co.id.
Bareskrim Selidiki Deepfake Grok AI
“Jadi memang perkembangan teknologi itu sekarang mengarah kepada artificial intelligence ya itu termasuk deepfake itu menggunakan AI,” kata Himawan saat menjawab pertanyaan wartawan di Bareskrim Polri, Jakarta Selatan, Rabu (7/1/2026).
Himawan menambahkan, pihaknya sedang melakukan penyelidikan terkait kasus ini. “Karena itu memang kita sedang melakukan penyelidikan ke arah sana,” lanjutnya.
Menurut Himawan, jika terbukti ada manipulasi data elektronik oleh orang lain tanpa persetujuan pemiliknya, tindakan tersebut dapat diproses secara pidana. “Selama itu bisa diklarifikasi bahwa itu adalah manipulasi data elektronik maka itu menjadi suatu hal yang dipidana,” imbuhnya.
Komdigi Ancam Blokir X dan Grok AI
Sebelumnya, Kementerian Komunikasi dan Informatika (Komdigi) juga telah mengambil langkah tegas terhadap platform X (sebelumnya Twitter) terkait dugaan penyalahgunaan fitur Grok AI. Teknologi ini disinyalir menjadi sarana produksi dan penyebaran konten asusila melalui manipulasi foto pribadi atau deepfake tanpa izin.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan bahwa temuan awal menunjukkan Grok AI belum memiliki sistem moderasi yang memadai. Menurut Mureks, fitur AI ini dinilai belum mampu mencegah pembuatan konten pornografi berbasis foto nyata warga Indonesia.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan konten pornografi berbasis foto pribadi,” ujar Alexander dalam keterangan resminya di Jakarta, Rabu (7/1/2026).
Indonesia bukan satu-satunya negara yang mempersoalkan Grok AI dan platform X terkait isu ini. Sebelumnya, Prancis, India, dan Malaysia juga telah menyampaikan keberatan serupa kepada perusahaan milik Elon Musk tersebut.
Referensi penulisan: news.detik.com
