RBN || Jakarta
Pemerintah Indonesia memutus akses sementara layanan kecerdasan buatan (AI) Grok yang terintegrasi di platform media sosial X (sebelumnya Twitter) milik Elon Musk. Kebijakan ini diambil Kementerian Komunikasi dan Digital (Komdigi) di bawah arahan Menteri Komunikasi dan Digital Meutya Hafid, menyusul maraknya penyebaran konten asusila palsu atau deepfake di platform tersebut.
Langkah ini menjadikan Indonesia sebagai negara pertama yang melakukan pemblokiran terhadap fitur AI Grok. Komdigi menilai Grok memiliki celah yang dapat disalahgunakan untuk membuat atau menyunting gambar bernuansa seksual tanpa persetujuan, termasuk visualisasi perempuan dan anak-anak dalam pose seksual.
“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok,” kata Meutya dalam pernyataan resmi Komdigi, Sabtu (10/1/2026).
Meutya menegaskan, praktik deepfake seksual non-konsensual merupakan pelanggaran berat karena menyasar martabat manusia dan keamanan warga negara di ruang digital.
“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” ujarnya.
Selain pemblokiran, Komdigi juga melayangkan permintaan klarifikasi kepada pihak X. Pemerintah meminta penjelasan tentang mitigasi risiko, sistem pengaman, serta langkah menutup celah teknologi Grok yang memungkinkan lahirnya konten terlarang.
Keputusan Indonesia menarik perhatian internasional. Sejumlah negara dan regulator global disebut mulai memperketat pengawasan atas praktik deepfake seksual, termasuk penyalahgunaan AI untuk eksploitasi digital. Malaysia bahkan dilaporkan menjadi negara berikutnya yang memblokir Grok dan menyatakan siap mengambil langkah hukum terhadap X terkait isu tersebut.
Sementara itu, perusahaan rintisan xAI,pengembang Grok, mengakui adanya kegagalan sistem pengaman yang memungkinkan keluarnya konten seksual, termasuk visualisasi anak-anak dalam konteks tidak pantas. xAI menyatakan sedang memperbaiki sistem dan membatasi fitur pembuatan serta penyuntingan gambar hanya untuk pelanggan berbayar.
Elon Musk juga menyampaikan peringatan melalui X bahwa siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama seperti mengunggah konten terlarang secara langsung.
Komdigi menegaskan pemutusan akses ini bersifat sementara, sambil menunggu klarifikasi dan pembenahan keamanan dari pihak X agar ruang digital tetap aman, khususnya bagi kelompok rentan seperti perempuan dan anak-anak.
Sumber: CNA
