Tiga senator Partai Demokrat Amerika Serikat mendesak Apple dan Google untuk menangguhkan aplikasi X dan Grok dari toko aplikasi mereka. Desakan ini muncul menyusul maraknya penyebaran gambar deepfake eksplisit yang dibuat dan disebarkan tanpa izin melalui platform milik Elon Musk tersebut.
Dalam surat terbuka yang ditujukan kepada CEO Apple Tim Cook dan CEO Google Sundar Pichai, Senator Ron Wyden dari Oregon, Ed Markey dari Massachusetts, dan Ben Ray Luján dari New Mexico secara tegas meminta kedua raksasa teknologi itu untuk “segera menghapus aplikasi X dan Grok dari toko aplikasi mereka sampai CEO perusahaan, Elon Musk, menangani aktivitas meresahkan dan kemungkinan besar ilegal ini.”
Baca artikel informatif lainnya di Mureks melalui laman mureks.co.id.
“Menutup mata terhadap perilaku X yang sangat buruk akan memperolok praktik moderasi Anda,” tulis para senator, seperti dikutip dari CNBC. Mereka menambahkan bahwa kegagalan untuk mengambil tindakan akan “melemahkan klaim bahwa toko aplikasi menawarkan pengalaman pengguna yang lebih aman.”
Grok dan X dituding memungkinkan pengguna untuk dengan mudah membuat dan menyebarluaskan konten deepfake eksplisit dan bermuatan seksual yang menampilkan individu tanpa persetujuan. Lebih lanjut, Grok juga dilaporkan digunakan untuk menghasilkan gambar yang merendahkan orang berdasarkan ras atau etnis tertentu.
Dampak Global dan Respons Perusahaan
Isu deepfake ini telah memicu kritik luas dan penyelidikan di berbagai negara, termasuk Eropa, Malaysia, Australia, India, hingga Indonesia. Namun, Komisi Perdagangan Federal (FTC) dan Departemen Kehakiman AS belum menyatakan apakah akan melakukan penyelidikan terhadap xAI, perusahaan di balik Grok.
Awal Januari lalu, Elon Musk dan X mengeluarkan pernyataan yang menegaskan bahwa siapa pun yang menggunakan atau memerintahkan Grok untuk membuat konten ilegal akan menanggung konsekuensi yang sama seperti jika mereka mengunggah konten ilegal secara langsung.
Apple dan Google sendiri memiliki pedoman ketat bagi pengembang aplikasi. Pedoman ini mewajibkan mereka untuk mencegah pengunggahan dan penyebaran gambar yang menggambarkan pelecehan seksual anak, serta konten eksplisit atau berbahaya lainnya. Catatan Mureks menunjukkan, aplikasi media sosial seperti Tumblr dan Telegram sebelumnya pernah ditangguhkan dari toko aplikasi Apple karena gagal menyaring berbagai konten tidak pantas.
Menanggapi insiden ini, X dilaporkan membuat fitur pembuatan gambar AI Grok hanya tersedia bagi pelanggan berbayar. Namun, aplikasi dan situs Grok masih memungkinkan pengguna untuk memerintahkan Grok agar secara digital menelanjangi, menseksualisasi, atau merendahkan orang tanpa izin.
Tuntutan Musk dan Resignasi Karyawan
CNN melaporkan bahwa pembaruan fitur Grok baru-baru ini, beserta minimnya fitur pengaman, merupakan desakan langsung dari Elon Musk. Akibat tuntutan ini, tiga staf xAI yang bekerja di tim keamanan perusahaan mengumumkan pengunduran diri mereka.
Di tengah reaksi keras dan kontroversi yang meluas, xAI justru berhasil meraih putaran pendanaan sebesar USD 20 miliar. Investor yang terlibat dalam pendanaan ini termasuk Nvidia dan Cisco Investments, serta pendukung lama perusahaan Musk seperti Valor Equity Partners, Stepstone Group, Fidelity, Qatar Investment Authority, MGX dari Abu Dhabi, dan Baron Capital Group.
