Kementerian Komunikasi dan Digital (Kemkomdigi) tengah mendalami dugaan penyalahgunaan fitur kecerdasan buatan Grok AI yang terintegrasi pada platform X. Teknologi berbasis artificial intelligence (AI) tersebut disinyalir dimanfaatkan untuk memproduksi dan menyebarkan konten asusila, termasuk manipulasi foto pribadi yang bersifat sensitif tanpa persetujuan pemiliknya. Temuan awal ini memicu kekhawatiran serius terkait perlindungan privasi dan hak atas citra diri warga di ruang digital.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan hasil penelusuran sementara. “Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander di Jakarta, Rabu (07/01/26).
Baca liputan informatif lainnya di Mureks. mureks.co.id
Kondisi tersebut dinilai berpotensi melanggar hak privasi, terutama ketika foto seseorang dimanipulasi, disebarluaskan, atau dieksploitasi tanpa izin sah dari pemiliknya. Alexander menegaskan, persoalan ini bukan sekadar pelanggaran norma kesusilaan. Menurutnya, manipulasi digital terhadap foto pribadi merupakan bentuk perampasan kendali individu atas identitas visualnya. Dampak yang ditimbulkan pun tidak sederhana, mulai dari tekanan psikologis, kerugian sosial, hingga rusaknya reputasi korban di ruang publik maupun digital.
Dalam konteks ini, Kemkomdigi saat ini berkoordinasi dengan berbagai Penyelenggara Sistem Elektronik (PSE), termasuk pengelola platform digital yang memanfaatkan teknologi kecerdasan buatan. Langkah ini diambil untuk memastikan ketersediaan mekanisme perlindungan yang efektif, baik melalui penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, maupun prosedur penanganan cepat terhadap laporan pelanggaran privasi dan hak citra diri.
“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” tegas Alexander. Ia menekankan bahwa inovasi teknologi harus berjalan seiring dengan tanggung jawab hukum dan etika, terutama ketika teknologi tersebut memiliki kemampuan menghasilkan atau memanipulasi konten visual secara realistis.
Mureks mencatat bahwa kewajiban kepatuhan terhadap peraturan perundang-undangan Indonesia melekat pada seluruh PSE yang beroperasi di wilayah Indonesia, tanpa terkecuali. Apabila ditemukan ketidakpatuhan, kurangnya pengamanan sistem, atau sikap tidak kooperatif dalam proses pengawasan, pemerintah dapat menjatuhkan sanksi administratif. Sanksi tersebut dapat berupa teguran tertulis, denda administratif, hingga pemutusan akses layanan Grok AI dan platform X di Indonesia.
Seiring dengan berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, pengaturan mengenai konten pornografi menjadi semakin tegas. Dalam regulasi tersebut, konten pornografi diatur antara lain dalam Pasal 172 dan Pasal 407. Pasal 172 mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan. Sementara itu, Pasal 407 mengatur ancaman pidana penjara paling singkat enam bulan dan paling lama sepuluh tahun, atau pidana denda sesuai ketentuan yang berlaku.
Alexander menambahkan, sanksi hukum tidak hanya dapat dikenakan kepada penyedia layanan, tetapi juga kepada individu atau pihak yang terbukti memproduksi dan/atau menyebarkan konten pornografi maupun manipulasi citra pribadi tanpa hak. Hal ini menjadi penegasan bahwa ruang digital bukanlah ruang bebas hukum, meskipun teknologi yang digunakan bersifat canggih dan berbasis kecerdasan buatan.
Di sisi lain, Kemkomdigi juga mendorong masyarakat untuk lebih waspada dan berani melaporkan apabila menjadi korban manipulasi foto, deepfake asusila, atau pelanggaran hak citra diri. Korban dapat menempuh upaya hukum melalui mekanisme yang tersedia dalam peraturan perundang-undangan, termasuk melaporkan kepada aparat penegak hukum serta mengajukan pengaduan resmi kepada Kemkomdigi.
“Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi,” ujar Alexander. Ke depan, pengawasan terhadap pemanfaatan AI dipastikan akan semakin diperketat, seiring dengan meningkatnya penggunaan teknologi tersebut dalam kehidupan sehari-hari.
