Pemerintah melalui Kementerian Komunikasi dan Digital (Komdigi) mengultimatum platform X dan fitur kecerdasan artifisial (AI) Grok. Ultimatum ini menyusul temuan penyalahgunaan teknologi untuk memanipulasi foto orang menjadi konten asusila tanpa persetujuan.
Komdigi menegaskan tidak menutup kemungkinan menjatuhkan sanksi hingga pemutusan akses layanan jika pengamanan dan moderasi tidak segera diperbaiki. Di sisi lain, Bareskrim Polri telah menegaskan bahwa praktik rekayasa gambar non-konsensual berbasis AI termasuk kategori deepfake dan dapat diproses pidana.
Klik mureks.co.id untuk tahu artikel menarik lainnya!
Komdigi Nilai Moderasi Grok AI Belum Memadai
Menurut Komdigi, temuan awal menunjukkan belum ada pengaturan spesifik yang memadai untuk mencegah penyalahgunaan Grok AI dalam pembuatan konten asusila berbasis foto orang nyata. Pemerintah menyatakan sanksi dapat berjenjang, mulai dari administratif hingga blokir, apabila platform tidak kooperatif.
Sementara itu, Bareskrim Polri terus mengawasi fenomena manipulasi foto menjadi konten vulgar dengan bantuan AI. Penindakan hukum dapat dilakukan sepanjang penyidik dapat membuktikan adanya manipulasi data elektronik yang dilakukan tanpa persetujuan korban, Mureks mencatat bahwa kasus serupa telah menjadi perhatian global.
Akademisi Unismuh Makassar: Kasus Grok AI Pelanggaran HAM Berat
Menanggapi isu ini, Akademisi Universitas Muhammadiyah (Unismuh) Makassar, Andi Amalia Suhra, SH., M.Kn, menilai praktik tersebut sebagai bentuk pelanggaran berat terhadap hak privasi, martabat, dan keamanan individu di ruang digital. Ia menuntut kejelasan tanggung jawab hukum dari semua pihak yang terlibat.
Pandangan tersebut disampaikan Amalia dalam wawancara via WhatsApp pada Kamis, 8 Januari 2026. Menurutnya, manipulasi gambar seksual non-konsensual melalui AI merupakan serangan terhadap hak asasi manusia.
“Kasus Grok AI ini adalah serangan terhadap hak asasi digital serta merupakan bentuk pelanggaran serius terhadap hak asasi manusia, khususnya hak atas privasi, martabat, dan rasa aman secara digital,” ujar Amalia.
Ia menjelaskan bahwa penggunaan AI untuk merekayasa konten seksual terhadap individu nyata telah melampaui batas kebebasan berekspresi. Manipulasi gambar tanpa izin, menurutnya, secara langsung mencederai martabat manusia yang dijamin oleh konstitusi.
“Privasi bukan hanya soal data, tapi juga kontrol atas citra diri. Manipulasi gambar tanpa izin adalah mencederai martabat manusia,” kata Dosen Fakultas Hukum Unismuh Makassar tersebut.
Jerat Hukum dan Tantangan Penegakan
Dari sisi hukum positif, Amalia menilai praktik tersebut dapat dijerat melalui berbagai regulasi yang berlaku di Indonesia. Selain Undang-Undang Informasi dan Transaksi Elektronik (UU ITE) dan Undang-Undang Perlindungan Data Pribadi (UU PDP), ketentuan pidana juga tercantum dalam Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) yang mulai berlaku 2 Januari 2026.
Ia menerangkan bahwa Pasal 172 KUHP mendefinisikan pornografi secara luas, termasuk gambar, animasi, dan konten visual lain yang memuat kecabulan atau eksploitasi seksual. Sementara itu, Pasal 407 ayat (1) KUHP mengatur ancaman pidana penjara enam bulan hingga 10 tahun bagi pihak yang memproduksi atau menyebarluaskan konten pornografi.
“Korban juga dapat mengajukan gugatan perdata ke pengadilan negeri atas dasar perbuatan melawan hukum dan menuntut ganti kerugian, baik materiil maupun immateriil,” ujarnya menjelaskan opsi hukum yang tersedia.
Terkait pihak yang bertanggung jawab, Amalia menilai pertanggungjawaban hukum tidak hanya berhenti pada pengguna. Menurutnya, pengembang dan platform digital juga dapat dimintai tanggung jawab apabila terbukti lalai menyediakan sistem yang memungkinkan terjadinya tindak pidana.
Amalia memaparkan bahwa pengguna dapat dipidana sebagai aktor utama karena memiliki niat jahat. Sedangkan pengembang atau platform dapat dimintai pertanggungjawaban apabila tidak melakukan pengamanan memadai. Pendekatan ini, menurutnya, penting untuk menciptakan efek jera dan tanggung jawab kolektif.
Literasi Digital dan Regulasi AI Mendesak
Namun demikian, penegakan hukum atas kejahatan berbasis AI menghadapi tantangan besar, terutama dalam hal yurisdiksi lintas negara. Amalia menjelaskan bahwa perbedaan lokasi server, pengembang, dan korban sering kali menghambat proses hukum dan penyidikan digital.
Selain itu, posisi korban masih relatif lemah karena beban pembuktian berada pada pihak yang dirugikan. Aparat penegak hukum juga menghadapi tantangan teknis dalam mengungkap kejahatan siber yang melibatkan anonimitas dan teknologi canggih.
Dalam konteks tersebut, Dosen Fakultas Hukum Unismuh Makassar itu menekankan pentingnya literasi hukum dan digital bagi masyarakat. Menurutnya, masyarakat perlu memahami bahwa ruang digital tidak sepenuhnya aman dan jejak digital bersifat permanen.
“Teknologi berkembang lebih cepat daripada hukum. Jangan menganggap ruang digital sebagai ruang privat sepenuhnya. Manipulasi AI adalah ancaman nyata, dan literasi hukum digital adalah perisai terbaik kita saat ini,” katanya.
Amalia berharap kasus Grok AI dapat menjadi momentum bagi pemerintah dan pemangku kepentingan untuk segera merumuskan regulasi khusus tentang kecerdasan artifisial. Regulasi tersebut dinilai penting untuk memastikan inovasi teknologi berjalan seiring dengan perlindungan hak asasi dan martabat manusia.
