Platform media sosial X milik Elon Musk kini menjadi sorotan utama setelah analisis pihak ketiga mengungkapkan bahwa kecerdasan buatan (AI) Grok, yang terintegrasi dengan platform tersebut, menghasilkan ribuan gambar orang tanpa busana secara non-konsensual setiap jamnya.
Fenomena ini terungkap dari analisis 24 jam yang dilakukan oleh Genevieve Oh, seorang peneliti media sosial dan deepfake. Menurut pantauan Mureks, chatbot Grok menghasilkan sekitar 6.700 gambar per jam yang teridentifikasi sebagai konten seksual atau telanjang. Angka ini jauh melampaui lima situs web teratas lainnya yang rata-rata hanya menghasilkan 79 gambar AI telanjang baru per jam dalam periode yang sama, yakni antara 5 hingga 6 Januari.
Baca artikel informatif lainnya di Mureks melalui laman mureks.co.id.
Sejak akhir Desember, pengguna X dilaporkan semakin sering memanfaatkan Grok untuk memanipulasi gambar yang diunggah oleh pengguna lain. Skala deepfake yang terjadi di X ini disebut “belum pernah terjadi sebelumnya” oleh Carrie Goldberg, seorang pengacara yang berspesialisasi dalam kejahatan seksual online.
“Kami belum pernah memiliki teknologi yang membuatnya begitu mudah untuk menghasilkan gambar baru,” tegas Goldberg, menyoroti fakta bahwa Grok tersedia secara gratis dan terhubung langsung dengan sistem distribusi bawaan X, memungkinkan penyebaran konten tersebut dengan cepat dan luas.
Laporan ini pertama kali disampaikan oleh Cecilia D’Anastasio dari Bloomberg News.
