X AI Grok diblokir di Indonesia dan Malaysia karena fitur pembangkitan gambar eksplisit, sementara Inggris meluncurkan penyelidikan.

Taruhan bola – Malaysia dan Indonesia menjadi negara pertama yang memblokir Grok, chatbot kecerdasan buatan yang dikembangkan oleh xAI milik Elon Musk, setelah otoritas setempat menyatakan bahwa chatbot tersebut disalahgunakan untuk menghasilkan gambar-gambar bermuatan seksual dan tanpa persetujuan.
Hal ini terjadi setelah regulator media Inggris mengonfirmasi bahwa mereka telah meluncurkan penyelidikan terhadap platform tersebut untuk melihat apakah platform tersebut melanggar undang-undang Inggris, sementara pemerintah Inggris juga mengumumkan bahwa mereka berencana untuk membuat undang-undang yang akan melarang perusahaan menyediakan alat yang dirancang untuk membuat deepfakes. Langkah-langkah ini mencerminkan kekhawatiran global yang semakin meningkat terhadap alat kecerdasan buatan generatif yang dapat menghasilkan gambar, suara, dan teks yang realistis, sementara langkah-langkah pengamanan yang ada gagal mencegah penyalahgunaannya.

Uni Eropa, India, dan Prancis juga telah mengekspresikan kekhawatiran mereka terhadap platform tersebut. Chatbot Grok, yang diakses melalui platform media sosial X milik Mr Musk, telah dikritik karena menghasilkan gambar yang dimanipulasi, termasuk penggambaran wanita dalam bikini atau pose eksplisit secara seksual, serta gambar-gambar lainnya. melibatkan anak-anak.

Regulator Malaysia dan Indonesia menyatakan bahwa kontrol yang ada tidak mencegah pembuatan dan penyebaran konten pornografi palsu, terutama yang melibatkan perempuan dan anak di bawah umur. Elon Musk sebelumnya menggambarkan Grok sebagai AI “anti-woke”. (AP: Leon Neal/File) Pemerintah Indonesia sementara memblokir akses ke Grok pada Sabtu, diikuti oleh Malaysia pada Minggu.

AI Musk membatasi pembangkitan gambar Selama lebih dari seminggu, bot AI X Grok telah menghasilkan gambar-gambar seksual perempuan dan anak-anak atas permintaan pengguna lain “Pemerintah melihat deepfake seksual non-konsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, dan keamanan warga di ruang digital,” kata Menteri Komunikasi dan Informatika Indonesia Meutya Hafid dalam pernyataan pada Sabtu.
Kementerian tersebut menyatakan bahwa langkah ini bertujuan untuk melindungi perempuan, anak-anak, dan masyarakat luas dari konten pornografi palsu yang dihasilkan menggunakan AI. Temuan awal menunjukkan bahwa Grok tidak memiliki perlindungan yang efektif untuk menghentikan Pengguna dilarang membuat dan menyebarkan konten pornografi berdasarkan foto asli warga Indonesia, kata Alexander Sabar, Direktur Jenderal Pengawasan Ruang Digital, dalam pernyataan terpisah.

Ia mengatakan praktik semacam itu berisiko melanggar privasi dan hak atas gambar saat foto dimanipulasi atau dibagikan tanpa izin, yang dapat menyebabkan kerugian psikologis, sosial, dan reputasi.
Ofcom Inggris meluncurkan penyelidikan terhadap Grok Di Kuala Lumpur, Komisi Komunikasi dan Multimedia Malaysia memerintahkan pembatasan sementara terhadap Grok pada Minggu setelah apa yang disebutnya sebagai “penggunaan berulang” alat tersebut untuk menghasilkan gambar-gambar cabul, eksplisit secara seksual, dan dimanipulasi tanpa persetujuan, termasuk konten yang melibatkan perempuan dan anak di bawah umur.
Regulator tersebut mengatakan pemberitahuan yang dikeluarkan bulan ini kepada X Corp.

dan xAI yang menuntut perlindungan yang lebih kuat mendapat tanggapan yang bergantung pada mekanisme pelaporan pengguna. “Pembatasan ini diberlakukan sebagai langkah pencegahan dan proporsional sementara proses hukum dan regulasi sedang berlangsung,” katanya, menambahkan bahwa Akses akan tetap diblokir hingga langkah-langkah pengamanan yang efektif diterapkan.
Di Inggris, undang-undang yang lebih ketat yang melarang pembuatan deepfake seksual akan segera berlaku.

Dalam pidatonya di Parlemen Inggris, Menteri Sains dan Teknologi Liz Kendall mengatakan pemerintah juga berencana untuk mengeluarkan undang-undang baru yang melarang perusahaan teknologi menyediakan alat untuk membuat gambar seksual menggunakan kecerdasan buatan (AI). UE dan Inggris mengecam penyebaran gambar seksual di X Sebuah aksi “digital undressing” di platform media sosial Elon Musk telah memicu penyelidikan dari negara-negara termasuk Prancis, India, dan Malaysia.
Menolak tuduhan Elon Musk bahwa pemerintah Inggris berusaha membatasi kebebasan berbicara, Ms Kendall mengatakan undang-undang baru ini bertujuan untuk “menangani kekerasan terhadap perempuan dan anak perempuan”.

“Ini tentang menjaga nilai-nilai dasar Inggris tentang kesopanan dan rasa hormat, memastikan standar yang kita harapkan di dunia nyata juga diterapkan di dunia maya, dan ini tentang menggunakan kekuasaan kedaulatan kita.” Dia mengatakan korban dan masyarakat mengharapkan sw Tindakan tegas dan cepat dari Ofcom, dengan menambahkan bahwa X dapat bertindak sekarang untuk memastikan materi ilegal tidak dapat dibagikan di platformnya. Regulator media Inggris, Ofcom, mengonfirmasi pada Senin waktu setempat bahwa penyelidikannya akan meneliti apakah platform tersebut telah melanggar kewajibannya untuk melindungi masyarakat di Inggris dari konten yang berpotensi ilegal.

“Telah ada laporan yang sangat mengkhawatirkan tentang akun chatbot AI Grok di X yang digunakan untuk membuat dan membagikan gambar orang tanpa busana — yang mungkin merupakan penyalahgunaan gambar intim atau pornografi — serta gambar anak-anak yang bersifat seksual yang mungkin merupakan materi penyalahgunaan seksual anak,” kata Ofcom dalam sebuah pernyataan.
Jika ditemukan bahwa X melanggar hukum, Ofcom dapat memerintahkannya untuk mengambil langkah-langkah agar mematuhi peraturan, dan jika tidak, Ofcom dapat mengenakan denda hingga 10 persen dari pendapatan globalnya yang memenuhi syarat. Ketika diminta komentar pada Senin mengenai peluncuran penyelidikan formal, X merujuk pada pernyataan sebelumnya di mana mereka mengatakan bahwa mereka mengambil tindakan terhadap konten ilegal.

Di platform tersebut, termasuk materi pelecehan seksual anak, dengan menghapusnya, menangguhkan akun secara permanen, dan bekerja sama dengan pemerintah setempat dan penegak hukum sesuai kebutuhan. “Siapa pun yang menggunakan atau meminta Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama seolah-olah mereka mengunggah konten ilegal,” kata perusahaan tersebut. Diluncurkan pada 2023, Grok dapat digunakan secara gratis di X.

Pengguna dapat mengajukan pertanyaan kepada Grok di platform media sosial dan menandai posting yang mereka buat langsung atau balasan terhadap posting dari pengguna lain. Musim panas lalu, perusahaan menambahkan fitur generator gambar, Grok Imagine, yang mencakup mode “spicy” yang dapat menghasilkan konten dewasa. Grok pekan lalu membatasi pembangkitan dan pengeditan gambar hanya untuk pengguna berbayar setelah reaksi global terhadap deepfake bermuatan seksual, tetapi kritikus mengatakan langkah tersebut tidak sepenuhnya mengatasi masalah.