Platform media sosial X, yang sebelumnya dikenal sebagai Twitter, kini membatasi kemampuan generasi dan pengeditan gambar berbasis kecerdasan buatan (AI) Grok. Pembatasan ini menyusul gelombang kritik dan potensi sanksi regulasi setelah Grok digunakan untuk menghasilkan gambar wanita yang diseksualisasi.
Dalam beberapa pekan terakhir, alat AI bawaan Grok dilaporkan telah digunakan untuk mengedit gambar wanita, menghapus pakaian mereka, dan menempatkannya dalam posisi seksual. Akibatnya, pengguna yang mencoba memanfaatkan fitur tersebut kini akan menerima pesan: “image generation and editing are currently limited to paying subscribers” (generasi dan pengeditan gambar saat ini terbatas untuk pelanggan berbayar).
Simak artikel informatif lainnya di Mureks. mureks.co.id
Hingga saat ini, belum ada komentar langsung dari Elon Musk maupun tim xAI mengenai isu ini. Oleh karena itu, belum jelas apakah pembatasan ini bersifat permanen atau hanya langkah sementara. Meskipun membatasi akses hanya untuk pelanggan berbayar dapat mengurangi penggunaan alat tersebut dan mendesanonimkan pengguna (karena memerlukan informasi kartu kredit), langkah ini diperkirakan tidak akan sepenuhnya meredakan kontroversi.
Regulator Internasional Turun Tangan
Kontroversi ini bermula pekan lalu, ketika puluhan pengguna mulai mendokumentasikan contoh dan pengalaman pribadi mereka tentang Grok yang mengubah gambar menjadi konten seksual. Situasi ini dengan cepat menarik perhatian badan hukum dan regulasi.
Komisi Eropa telah menyerukan X untuk menyimpan dokumen terkait Grok lebih lama guna meningkatkan akuntabilitas platform dari sudut pandang kepatuhan. Sementara itu, Prancis telah menyatakan praktik tersebut ilegal, dan Irlandia, India, serta sejumlah badan amal internasional juga turut mengecamnya.
Kekhawatiran terbesar sejauh ini datang dari Inggris. Ofcom, regulator layanan komunikasi Inggris, mengonfirmasi telah “made urgent contact with X and xAI to understand what steps they have taken to comply with their legal duties to protect users in the UK” (melakukan kontak mendesak dengan X dan xAI untuk memahami langkah-langkah yang telah mereka ambil untuk mematuhi kewajiban hukum mereka dalam melindungi pengguna di Inggris). Berdasarkan respons yang diterima, Ofcom akan melakukan penilaian cepat untuk menentukan apakah ada potensi masalah kepatuhan yang memerlukan penyelidikan lebih lanjut.
Di bawah Undang-Undang Keamanan Daring Inggris (Online Safety Act), Ofcom memiliki wewenang untuk, dalam kasus serius, memblokir situs web atau aplikasi di Inggris, serta menjatuhkan denda hingga 10% dari omset global perusahaan. Meskipun pemblokiran situs tampaknya tidak mungkin, Elon Musk berpotensi menghadapi denda besar jika tidak ada perubahan signifikan.
Menurut catatan Mureks, Copyleaks, sebuah platform deteksi dan tata kelola media yang dimanipulasi AI yang memantau umpan Grok, menyatakan bahwa ratusan, bahkan mungkin ribuan, contoh deepfake seksualisasi kini beredar di situs Grok.
Respons Elon Musk dan X
Meskipun Elon Musk belum secara langsung membahas kontroversi ini, ia menanggapi sebuah unggahan pengguna X lainnya dengan menyatakan: “Anyone using Grok to make illegal content will suffer the same consequences as if they upload illegal content” (Siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menanggung konsekuensi yang sama seperti jika mereka mengunggah konten ilegal).
Pernyataan ini kemudian diunggah ulang oleh akun resmi X Safety, dengan tambahan pesan yang menyatakan: “We take action against illegal content on X, including Child Sexual Abuse Material, by removing it, permanently suspending accounts, and working with local governments and law enforcement as necessary” (Kami mengambil tindakan terhadap konten ilegal di X, termasuk Materi Pelecehan Seksual Anak, dengan menghapusnya, menangguhkan akun secara permanen, dan bekerja sama dengan pemerintah daerah serta penegak hukum jika diperlukan).
Peraturan dan hukum di bidang ini masih terus berkembang, dan seringkali ada kebingungan mengenai di mana letak tanggung jawab. Meskipun pengguna yang membuat konten akan bertanggung jawab secara pidana, X dan Grok juga terkait dalam proses tersebut. Ini berarti, seiring dengan penindakan oleh pemerintah dan badan regulasi, Musk dan timnya perlu membuktikan bahwa mereka kooperatif dan bersedia membantu menyelesaikan masalah ini ke depannya.
