X, platform media sosial yang sebelumnya dikenal sebagai Twitter, resmi mengambil langkah tegas dengan membatasi akses fitur edit foto pada chatbot kecerdasan buatan (AI) miliknya, Grok. Kebijakan ini diterapkan menyusul maraknya penyalahgunaan fitur tersebut untuk membuat konten deepfake asusila, termasuk memanipulasi foto anak-anak, dalam beberapa pekan terakhir.
Pembatasan ini, yang mulai berlaku sejak Sabtu, 10 Januari 2026, muncul setelah gelombang kritik global. Fitur edit foto Grok kini hanya dapat diakses oleh pelanggan berbayar X Premium, khususnya saat pengguna meminta Grok mengedit foto melalui mention.
Mureks menghadirkan beragam artikel informatif untuk pembaca. mureks.co.id
Ketika pengguna X mencoba meminta Grok mengedit gambar dengan me-mention chatbot tersebut, Grok akan merespons dengan pesan, “Pembuatan dan pengeditan gambar saat ini terbatas untuk pelanggan berbayar. Anda dapat berlangganan untuk mengakses fitur-fitur tersebut.”
Namun, catatan Mureks menunjukkan, pembatasan ini tidak berlaku secara menyeluruh. Pengguna X, termasuk yang tidak berlangganan Premium, masih bisa membuat dan mengedit gambar, termasuk yang berpotensi menimbulkan kontroversi, melalui cara lain. Misalnya, tombol ‘Edit image’ yang tersedia di situs desktop X atau melalui aplikasi X dengan menekan dan menahan gambar tertentu.
Selain itu, Grok juga tetap bisa diakses melalui aplikasi atau situs web mandirinya, serta tab khusus di aplikasi dan situs web X. Semua jalur ini masih berpotensi disalahgunakan untuk memanipulasi foto pengguna lain menjadi konten tidak senonoh.
Penyalahgunaan fitur edit gambar Grok telah terdeteksi sejak akhir Desember 2025, di mana foto-foto yang diunggah pengguna, termasuk anak-anak, diubah menjadi konten seksual eksplisit. Situasi ini memicu kecaman keras dari berbagai negara, termasuk Malaysia, India, Inggris, dan Prancis.
Di Indonesia, Kementerian Komunikasi dan Digital (Komdigi) turut merespons serius dengan mengancam akan memblokir layanan Grok. Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan bahwa investigasi awal menunjukkan Grok AI belum memiliki sistem moderasi yang memadai.
Alexander Sabar menyatakan di Jakarta pada Rabu (7/1/2026), “Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan konten pornografi berbasis foto pribadi.”
Komdigi juga menegaskan bahwa penyedia layanan kecerdasan buatan maupun pengguna yang terbukti memproduksi dan/atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak dapat dikenakan sanksi pidana sesuai ketentuan hukum yang berlaku.
Sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, pengaturan terkait pornografi tercantum dalam Pasal 172 dan Pasal 407. Pasal 172 mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan, sementara Pasal 407 mengatur ancaman pidana penjara paling singkat 6 bulan dan paling lama 10 tahun atau pidana denda sesuai ketentuan.
