Kecerdasan buatan (AI) Grok milik Elon Musk tengah menjadi sorotan tajam setelah disalahgunakan oleh sejumlah oknum untuk memodifikasi foto perempuan dan anak perempuan menjadi gambar-gambar seksual non-konsensual. Kasus ini mencuat setelah beberapa anggota grup idola JKT48 menjadi korban, di mana foto-foto mereka diubah menjadi konten asusila bahkan pornografi, yang dinilai sebagai bentuk pelecehan dan pelanggaran privasi.
Penyalahgunaan dan Dampak Grok AI
Menurut pantauan Mureks, penyalahgunaan teknologi Grok AI ini telah menimbulkan keresahan luas di kalangan pengguna media sosial. Anggota JKT48 menjadi salah satu target utama, dengan sejumlah akun memanfaatkan fitur AI tersebut untuk mengubah penampilan mereka menjadi senonoh, memicu kecaman publik atas pelanggaran privasi dan pelecehan digital.
Pembaca dapat menelusuri artikel informatif lainnya di Mureks. mureks.co.id
Grok sendiri, melansir BBC UK pada Kamis, 8 Januari 2026, adalah asisten AI gratis dengan fitur premium berbayar yang merespons permintaan pengguna platform X. Umumnya, Grok digunakan untuk memberikan reaksi atau menambahkan konteks pada komentar. Namun, fitur pengeditan gambar berbasis AI-nya juga memungkinkan manipulasi foto yang diunggah tanpa persetujuan subjek.
Sejumlah perempuan yang tanpa sengaja menemukan foto diri mereka telah diseksualisasi oleh Grok menggambarkan pengalaman tersebut sebagai sesuatu yang “sangat mendehumanisasi.” Dampak psikologis dan sosial dari penyebaran gambar semacam ini menjadi perhatian serius.
Desakan Pemerintah Inggris dan Respons X
Merespons situasi ini, Menteri Teknologi Inggris, Liz Kendall, mendesak platform X milik Elon Musk untuk segera mengambil tindakan tegas. Kendall menyatakan, “situasi ini sebagai sesuatu yang benar-benar memprihatinkan dan menegaskan, pemerintah tidak bisa dan tidak akan membiarkan penyebaran gambar-gambar yang merendahkan martabat seperti ini.”
Pihak X, dalam keterangan resminya, menegaskan komitmen mereka untuk menindak konten ilegal. “Siapa pun yang menggunakan atau memerintahkan Grok untuk membuat konten ilegal akan menerima konsekuensi yang sama seperti jika mereka mengunggah konten ilegal secara langsung,” demikian pernyataan resmi X. Perusahaan tersebut menambahkan bahwa mereka telah mengambil tindakan terhadap materi eksploitasi seksual anak (CSAM), termasuk menghapus konten, menangguhkan akun secara permanen, serta bekerja sama dengan pemerintah daerah dan aparat penegak hukum bila diperlukan.
