SATELITNEWS.COM, TANGERANG-Kementerian Komunikasi dan Digital (Komdigi) memutus akses sementara aplikasi Grok AI karena teknologi tersebut dapat memproduksi konten pornografi palsu, termasuk deepfake seksual nonkonsensual yang membahayakan perempuan, anak, dan masyarakat luas.
Komdigi juga meminta Platform X segera memberikan klarifikasi resmi terkait potensi dampak negatif penggunaan Grok AI. Terutama, yang terkait kemampuan sistem tersebut memanipulasi foto pribadi menjadi konten asusila, tanpa persetujuan pemiliknya.
“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” kata Menkomdigi Meutya Hafid dalam keterangan resminya, Sabtu (10/1/2026).
Sebelumnya, pada Rabu (7/1/2026), Direktur Jenderal Pengawasan Ruang Digital Alexander Sabar mengungkapkan, hasil penelusuran awal menunjukkan Grok AI belum memiliki pengaturan eksplisit dan memadai, untuk mencegah pembuatan maupun distribusi konten pornografi berbasis foto nyata warga Indonesia.
“Kondisi tersebut berpotensi melanggar hak privasi dan hak atas citra diri, khususnya ketika foto seseorang dimanipulasi atau disebarluaskan tanpa persetujuan sah,” ujar Alexander di Jakarta.
Menurutnya, Grok AI belum memiliki mekanisme spesifik untuk mencegah penyalahgunaan teknologi dalam pembuatan konten seksual berbasis foto pribadi, yang berpotensi menimbulkan kerugian psikologis, sosial, dan reputasi bagi korbannya.
Baca Juga: Membatasi untuk Melindungi: Pentingnya Aturan Media Sosial bagi Remaja
Komdigi menilai, manipulasi digital terhadap foto bukanlah sekadar persoalan kesusilaan. Deepfake seksual menimbulkan ancaman serius terhadap keamanan individu, menghilangkan kendali seseorang atas identitas visualnya, serta membuka ruang penyalahgunaan dan pemerasan di ruang digital.
Teknologi ini dapat memanfaatkan foto publik atau foto pribadi seseorang, untuk kemudian dimodifikasi menjadi konten asusila yang tampak nyata, dan dapat disebarkan tanpa izin. Kondisi inilah yang mendorong pemerintah mengambil tindakan cepat untuk mencegah meluasnya dampak.
Pemutusan akses terhadap Grok AI dilakukan berdasarkan kewenangan Komdigi, sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat.
Aturan tersebut, khususnya Pasal 9, mewajibkan setiap PSE memastikan sistem elektronik yang mereka kelola tidak memuat, memfasilitasi, ataupun menyebarkan informasi atau dokumen elektronik yang dilarang, termasuk konten pornografi dan konten yang merugikan masyarakat. (rmg)
