Malaysia dan Indonesia menjadi negara pertama yang memblokir Grok milik Musk terkait gambar AI yang bernuansa seksual

Taruhan bola – Tambahkan sebagai sumber pilihan Anda untuk melihat lebih banyak berita kami di Google.
Tambahkan di Google Tambahkan sebagai sumber pilihan Anda untuk melihat lebih banyak berita kami di Google. Bagikan
KUALA LUMPUR, Malaysia (AP) — Malaysia dan Indonesia menjadi negara pertama yang memblokir Grok, chatbot kecerdasan buatan yang dikembangkan oleh perusahaan Elon Musk, xAI, seiring meningkatnya kekhawatiran di kalangan otoritas global bahwa chatbot tersebut disalahgunakan untuk menghasilkan gambar-gambar yang bersifat seksual eksplisit dan tanpa persetujuan.

Ada pengawasan yang semakin ketat terhadap alat-alat AI generatif yang dapat menghasilkan gambar, suara, dan teks yang realistis, serta kekhawatiran bahwa langkah-langkah pengamanan yang ada gagal mencegah penyalahgunaannya. Chatbot Grok, yang dapat diakses melalui platform media sosial Musk, X, telah dikritik karena menghasilkan gambar yang dimanipulasi, termasuk penggambaran wanita dalam bikini atau pose eksplisit secara seksual, serta gambar yang melibatkan anak-anak.
“Pemerintah memandang deepfake seksual tanpa persetujuan sebagai pelanggaran serius terhadap hak asasi manusia, martabat, dan keselamatan warga di ruang digital.

” “ace,” kata Menteri Komunikasi dan Informatika Indonesia Meutya Hafid dalam sebuah pernyataan.
Pengawasan terhadap Grok semakin meningkat, termasuk di Uni Eropa, India, Prancis, dan Inggris, yang pada Senin lalu menyatakan akan mengambil langkah untuk mengkriminalisasi “aplikasi nudifikasi.” Regulator media Inggris juga meluncurkan penyelidikan untuk mengetahui apakah Grok melanggar hukum dengan mengizinkan pengguna membagikan gambar anak-anak yang bersifat seksual.

Minggu lalu, Grok membatasi pembuatan dan pengeditan gambar hanya untuk pengguna berbayar menyusul reaksi keras global atas deepfake yang mengkontekstualisasikan orang secara seksual, namun para kritikus mengatakan hal itu tidak sepenuhnya mengatasi masalah.
Permintaan komentar melalui email dari The Associated Press kepada xAI menghasilkan balasan otomatis dari alamat dukungan media yang menyatakan, “Media Lama Berbohong.” Pesan yang sama diterima dari alamat berbeda saat dimintai komentar mengenai reaksi global tersebut.

Baca Selengkapnya

Tindakan Asia yang ditujukan kepada Grok
Regulator di dua negara Asia Tenggara tersebut mengatakan bahwa kontrol yang ada tidak mencegah penyebaran Pembuatan dan penyebaran konten pornografi palsu, terutama yang melibatkan perempuan dan anak di bawah umur. Pemerintah Indonesia untuk sementara memblokir akses ke Grok pada hari Sabtu, disusul oleh Malaysia pada hari Minggu.
Temuan awal menunjukkan bahwa Grok tidak memiliki pengamanan yang efektif untuk mencegah pengguna membuat dan mendistribusikan konten pornografi berdasarkan foto asli warga Indonesia, kata Alexander Sabar, Direktur Jenderal Pengawasan Ruang Digital, dalam sebuah pernyataan.

Ia mengatakan praktik semacam itu berisiko melanggar privasi dan hak atas citra ketika foto dimanipulasi atau dibagikan tanpa persetujuan.
Komisi Komunikasi dan Multimedia Malaysia mencatat “penyalahgunaan berulang” alat tersebut untuk menghasilkan gambar yang cabul, eksplisit secara seksual, dan dimanipulasi tanpa persetujuan, termasuk konten yang melibatkan perempuan dan anak di bawah umur.
Regulator tersebut mengatakan pemberitahuan telah dikeluarkan bulan ini kepada X Corp.

dan xAI yang menuntut pengamanan yang lebih kuat.
“Pembatasan ini diberlakukan sebagai langkah pencegahan dan proporsional sementara proses hukum dan regulasi sedang berlangsung,” katanya katanya, sambil menambahkan bahwa akses akan tetap diblokir hingga langkah-langkah pengamanan yang efektif diterapkan.

Penyelidikan diluncurkan di Inggris

Diluncurkan pada tahun 2023, Grok dapat digunakan secara gratis di X. Fitur pembuat gambar, Grok Imagine, ditambahkan tahun lalu dan mencakup apa yang disebut “spicy mode” yang dapat menghasilkan konten dewasa.
Regulator media Inggris mengatakan telah meluncurkan penyelidikan untuk mengetahui apakah Grok melanggar kewajibannya dalam melindungi masyarakat dari konten ilegal.

Regulator tersebut, Ofcom, mengatakan gambar yang dihasilkan Grok yang menampilkan anak-anak yang diseksualisasi atau orang-orang yang telanjang dapat dikategorikan sebagai pornografi atau materi pelecehan seksual anak.
Menteri Teknologi Liz Kendall menyebut gambar yang dihasilkan AI tersebut sebagai “senjata pelecehan” dan mengatakan bahwa pemerintah Partai Buruh yang berhaluan kiri-tengah akan menargetkan sumber masalah dengan menjadikannya tindak pidana bagi perusahaan yang menyediakan alat untuk membuat gambar telanjang tanpa persetujuan.
Kendall mengatakan X dapat menghadapi kemungkinan denda dari Ofcom hingga 10% dari pendapatan globalnya yang memenuhi syarat, tergantung pada hasil penyelidikan dan kemungkinan putusan pengadilan yang memblokir akses ke situs tersebut.

“Mereka bisa memilih untuk bertindak lebih cepat guna memastikan materi yang menjijikkan dan ilegal ini tidak dapat dibagikan di platform mereka,” kata Kendall di Parlemen.
Musk pada akhir pekan lalu menyebut pemerintah Inggris sebagai “fasis” dan mengatakan bahwa pemerintah tersebut berusaha membungkam kebebasan berekspresi.
___
Tarigan melaporkan dari Jakarta, Indonesia.

Penulis Associated Press Sylvia Hui dan Brian Melley di London turut berkontribusi.