Kementerian Komunikasi dan Digital (Komdigi) Republik Indonesia tengah melakukan penyelidikan mendalam terkait dugaan penyalahgunaan teknologi kecerdasan buatan (AI) Grok di platform media sosial X. Investigasi ini berfokus pada produksi konten asusila dan manipulasi foto pribadi tanpa persetujuan, yang berpotensi merugikan publik secara luas.
Sebagai respons atas pelanggaran serius ini, Komdigi mengancam akan memutus akses layanan atau memblokir Grok AI dan platform X di Indonesia. Sanksi tegas ini akan diberlakukan jika pihak penyelenggara tidak segera memperbaiki sistem moderasi konten mereka sesuai dengan regulasi yang berlaku.
Klik mureks.co.id untuk tahu artikel menarik lainnya!
Dugaan Pelanggaran Privasi Serius oleh Grok AI
Laporan yang diterima Komdigi mengungkap bahwa Grok AI, yang dikembangkan oleh xAI, diduga kuat dimanfaatkan untuk memproduksi dan menyebarkan konten asusila. Lebih lanjut, teknologi ini juga dituding memanipulasi foto pribadi individu tanpa izin, sebuah tindakan yang dianggap Komdigi sebagai pelanggaran hak privasi yang sangat serius dan berpotensi menimbulkan kerugian besar bagi masyarakat.
Pemerintah Indonesia menanggapi kekhawatiran publik dan pakar teknologi mengenai peran AI generatif dalam pembuatan konten seksual non-konsensual. Mureks mencatat bahwa penggunaan Grok AI terbukti memungkinkan manipulasi gambar asli menjadi bentuk tidak senonoh, termasuk materi yang sangat sensitif.
Ancaman Blokir Bukan Sekadar Peringatan
Komdigi menegaskan bahwa praktik pengambilan identitas visual atau foto pribadi tanpa izin untuk menghasilkan konten vulgar merupakan pelanggaran privasi berat. Teknologi AI, menurut Komdigi, tidak boleh berfungsi sebagai alat yang memfasilitasi distribusi konten berbahaya atau melanggar undang-undang perlindungan data pribadi yang berlaku di Indonesia.
Oleh karena itu, Komdigi menyatakan akan mengambil langkah tegas, mulai dari sanksi administratif hingga pemutusan akses layanan atau blokir Grok AI dan X di wilayah Indonesia. Ancaman blokir ini dipastikan bukan sekadar peringatan, melainkan komitmen regulator untuk menjamin seluruh penyelenggara platform digital mematuhi regulasi Indonesia, terutama terkait larangan pornografi dan perlindungan data pribadi.
Sorotan Global Terhadap Etika AI
Kontroversi seputar Grok AI tidak hanya menjadi perhatian di Indonesia. Regulator dan pemerintahan di berbagai negara lain juga memberikan kritik tajam. Mereka menyoroti kemampuan Grok AI dalam menghasilkan konten seksual eksplisit dan manipulasi gambar yang tidak pantas, bahkan melibatkan potensi gambar anak di bawah umur atau pelecehan.
Referensi penulisan: gadget.viva.co.id
