Malaysia dan Indonesia menjadi negara pertama yang memblokir Grok milik Musk terkait deepfake kecerdasan buatan (AI).
Taruhan bola – Malaysia dan Indonesia menjadi negara pertama yang memblokir Grok, chatbot kecerdasan buatan (AI) yang dikembangkan oleh xAI milik Elon Musk, setelah otoritas setempat menyatakan bahwa chatbot tersebut disalahgunakan untuk menghasilkan gambar-gambar bermuatan seksual dan tanpa persetujuan.
Langkah-langkah ini mencerminkan kekhawatiran global yang semakin meningkat terhadap alat kecerdasan buatan generatif yang dapat menghasilkan gambar, suara, dan teks yang realistis, sementara langkah-langkah pengamanan yang ada gagal mencegah penyalahgunaannya. Chatbot Grok, yang diakses melalui platform media sosial Musk, X, telah dikritik karena menghasilkan gambar yang dimanipulasi, termasuk penggambaran wanita dalam bikini atau pose eksplisit secara seksual, serta gambar yang melibatkan anak-anak.
Regulator di dua negara Asia Tenggara tersebut menyatakan bahwa kontrol yang ada tidak mampu mencegah pembuatan dan penyebaran konten pornografi palsu, terutama yang melibatkan perempuan dan anak-anak. Pemerintah Indonesia sementara memblokir akses ke Grok pada Sabtu, diikuti oleh Malaysia pada Minggu. “Pemerintah melihat deepfake seksual tanpa persetujuan sebagai masalah serius Pelanggaran hak asasi manusia, martabat, dan keamanan warga negara di ruang digital,” kata Menteri Komunikasi dan Informatika Indonesia, Meutya Hafid, dalam pernyataan pada Sabtu.
Kementerian tersebut menyatakan bahwa langkah ini bertujuan untuk melindungi perempuan, anak-anak, dan masyarakat luas dari konten pornografi palsu yang dihasilkan menggunakan kecerdasan buatan (AI).
Temuan awal menunjukkan bahwa Grok tidak memiliki perlindungan yang efektif untuk mencegah pengguna membuat dan menyebarkan konten pornografi berdasarkan foto asli warga Indonesia, kata Alexander Sabar, Direktur Jenderal Pengawasan Ruang Digital, dalam pernyataan terpisah. Ia mengatakan praktik semacam itu berisiko melanggar privasi dan hak atas gambar saat foto dimanipulasi atau dibagikan tanpa izin, menyebabkan kerugian psikologis, sosial, dan reputasi.
Di Kuala Lumpur, Komisi Komunikasi dan Multimedia Malaysia memerintahkan pembatasan sementara terhadap Grok pada Minggu setelah apa yang disebutnya sebagai “penggunaan berulang” alat tersebut untuk menghasilkan konten cabul, eksplisit secara seksual, dan tanpa persetujuan. Gambar yang dimanipulasi, termasuk konten yang melibatkan perempuan dan anak di bawah umur. Regulator mengatakan bahwa pemberitahuan yang diterbitkan bulan ini kepada X Corp.
dan xAI yang menuntut langkah-langkah perlindungan yang lebih kuat mendapat tanggapan yang sebagian besar bergantung pada mekanisme pelaporan pengguna. “Pembatasan ini diberlakukan sebagai langkah pencegahan dan proporsional sementara proses hukum dan regulasi sedang berlangsung,” katanya, menambahkan bahwa akses akan tetap diblokir hingga langkah-langkah perlindungan yang efektif diterapkan.
Diluncurkan pada 2023, Grok dapat digunakan secara gratis di X.
Pengguna dapat mengajukan pertanyaan kepada Grok di platform media sosial tersebut dan menandai posting yang mereka buat langsung atau balasan terhadap posting dari pengguna lain. Musim panas lalu, perusahaan menambahkan fitur generator gambar, Grok Imagine, yang mencakup mode “spicy” yang dapat menghasilkan konten dewasa.
Pembatasan di Asia Tenggara ini terjadi di tengah meningkatnya pengawasan terhadap Grok di tempat lain, termasuk di Uni Eropa, Inggris, India, dan Prancis.
Grok pekan lalu membatasi fitur pembuat dan pengedit gambar hanya untuk pengguna berbayar setelah adanya reaksi global yang kuat atas Deepfakes yang bersifat seksual dari orang-orang, tetapi para kritikus mengatakan bahwa hal itu tidak sepenuhnya mengatasi masalah tersebut.
