Aplikasi Grok milik Musk diblokir oleh Indonesia dan Malaysia karena mengandung gambar-gambar yang bersifat seksual, menjadi kasus pertama di dunia.

Slot online terpercaya – Grok milik Elon Musk telah diblokir oleh Indonesia dan Malaysia, menjadi negara pertama yang melakukannya setelah fitur “digital undressing” dari alat kecerdasan buatan tersebut membanjiri internet dengan foto-foto wanita dan anak di bawah umur dalam gambar yang dimanipulasi secara sugestif dan cabul. Tekanan internasional semakin meningkat terhadap Musk untuk membatasi Grok setelah tren viral di mana pengguna meminta alat kecerdasan buatan tersebut untuk menghasilkan deepfake yang bersifat seksual eksplisit. Grok adalah alat di platform media sosial Musk, X, yang sebelumnya dikenal sebagai Twitter.

Menteri Digital Indonesia, Meutya Hafid, mengatakan dalam pernyataan pada Sabtu bahwa larangan tersebut bertujuan untuk “melindungi perempuan, anak-anak, dan masyarakat luas dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan buatan.” Malaysia mengumumkan larangan sementara pada Minggu setelah “penggunaan berulang Grok untuk menghasilkan gambar yang cabul, eksplisit secara seksual, tidak pantas, sangat menyinggung, dan dimanipulasi tanpa persetujuan, termasuk konten yang melibatkan perempuan dan anak-anak.” Indonesia dan Malaysia Sia adalah dua negara dengan mayoritas penduduk Muslim yang memiliki undang-undang anti-pornografi yang ketat.

Pejabat di Inggris, Uni Eropa, dan India juga telah mengutarakan kekhawatiran mereka terkait batasan-batasan yang diterapkan oleh Grok. Ketika diminta komentar mengenai larangan tersebut, perusahaan induk Grok, xAI, memberikan pernyataan tiga kata: “Legacy Media Lies.” Sebelumnya, Musk dan xAI mengatakan mereka menangani masalah ini dengan menangguhkan secara permanen akun-akun yang melanggar dan “bekerja sama dengan pemerintah lokal dan penegak hukum.

” Namun, respons Grok terhadap permintaan pengguna masih dibanjiri dengan gambar-gambar yang menseksualisasi wanita. Grok dianggap oleh banyak pengguna sebagai pengecualian dibandingkan model AI mainstream lainnya karena mengizinkan, dan dalam beberapa kasus mempromosikan, konten eksplisit seksual dan avatar pendamping. Peningkatan tren “digital undressing” dimulai pada akhir tahun lalu ketika banyak pengguna menemukan bahwa mereka dapat menandai Grok di X dan membuatnya memanipulasi gambar.

Pengguna telah memicu chatbot untuk menghasilkan gambar orang dalam bikini dan berpose secara sugestif, menyebabkan ketidaknyamanan bagi ratusan ribu orang. Perempuan di seluruh dunia. Para peneliti di AI Forensics, sebuah organisasi nirlaba Eropa yang menyelidiki algoritma, menganalisis lebih dari 20.

000 gambar acak yang dihasilkan oleh Grok dan 50.000 permintaan pengguna antara 25 Desember dan 1 Januari. Para peneliti menemukan “prevalensi tinggi dari istilah-istilah termasuk ‘dia’ ‘letakkan’/’lepaskan,’ ‘bikini,’ dan ‘pakaian.

’” Lebih dari setengah gambar yang dihasilkan menampilkan orang-orang “yang mengenakan pakaian minimal seperti pakaian dalam atau bikini.” Musk menentang sensor Secara terbuka, Musk telah lama menentang model AI “woke” dan apa yang dia sebut sebagai sensor. Namun, miliarder tersebut menentang batasan untuk Grok di dalam perusahaan, menurut sumber yang mengetahui situasi di xAI.

Tim keamanan xAI, yang sudah kecil dibandingkan pesaingnya, kehilangan beberapa staf dalam beberapa minggu menjelang kontroversi. Musk mengatakan siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi. Namun, dia sebagian besar mengabaikan kekhawatiran tentang konten seksual di aplikasi tersebut, dengan argumen Pemerintah “hanya ingin membatasi kebebasan berbicara” dan menanggapi kritik dengan emoji.

Pekan lalu, Grok membatasi beberapa fitur pembangkitan gambar untuk langganan berbayar X, tetapi pembatasan tersebut hanya berlaku untuk salah satu cara pengguna berinteraksi dengan Grok. Pengguna non-berlangganan masih dapat meminta Grok untuk mengedit gambar di aplikasi, dan fungsi pembangkitan gambar dan video masih tersedia secara gratis melalui situs web dan aplikasi mandiri Grok. Pada Senin, regulator layanan komunikasi Inggris membuka penyelidikan formal terhadap X untuk menentukan apakah platform tersebut telah mematuhi kewajibannya dalam melindungi masyarakat Inggris dari konten ilegal.

Gambar orang yang telanjang dapat dikategorikan sebagai penyalahgunaan gambar intim atau pornografi, sementara gambar anak-anak yang bersifat seksual dapat dianggap sebagai materi penyalahgunaan seksual anak, kata Ofcom dalam sebuah pernyataan. Jika regulator menemukan bahwa X melanggar hukum, mereka dapat mengenakan denda hingga £18 juta ($24 juta) atau 10% dari pendapatan global perusahaan yang memenuhi syarat, mana yang lebih besar.