Jakarta,- Kementerian Komunikasi dan Digital (Kemkomdigi) menindaklanjuti dugaan penyalahgunaan fitur kecerdasan buatan Grok AI di platform X. Teknologi tersebut diduga dimanfaatkan untuk membuat dan menyebarkan konten asusila, termasuk manipulasi foto pribadi tanpa izin.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengatakan hasil penelusuran awal menemukan lemahnya pengaturan pencegahan konten sensitif pada Grok AI. Sistem tersebut dinilai belum secara tegas membatasi produksi konten pornografi berbasis foto nyata.
Kondisi itu berpotensi melanggar hak privasi serta hak atas citra diri warga Indonesia. Risiko muncul ketika foto seseorang dimanipulasi atau diedarkan tanpa persetujuan yang sah.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander dalam keterangan resminya di Jakarta, Rabu (7/1/2026)
Kemkomdigi menilai manipulasi digital foto pribadi bukan sekadar persoalan kesusilaan. Praktik tersebut dianggap sebagai perampasan kendali individu atas identitas visualnya.
Alexander menyebut dampaknya bisa bersifat serius, mulai dari tekanan psikologis hingga kerugian sosial dan reputasi korban. Oleh karena itu, pengawasan terhadap teknologi AI perlu diperkuat.
Saat ini, Kemkomdigi berkoordinasi dengan Penyelenggara Sistem Elektronik (PSE) untuk memastikan adanya mekanisme perlindungan yang efektif. Langkah itu mencakup penguatan moderasi konten dan pencegahan deepfake bermuatan asusila.
“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” katanya.
Kemkomdigi juga mengingatkan seluruh PSE wajib mematuhi peraturan perundang-undangan di Indonesia. Ketidakpatuhan dapat berujung pada sanksi administratif hingga pemutusan akses layanan.
Penyedia layanan AI maupun pengguna yang terbukti memproduksi atau menyebarkan konten pornografi dapat dikenai sanksi hukum. Hal yang sama berlaku bagi manipulasi citra pribadi tanpa hak.
Alexander menambahkan, korban manipulasi foto atau deepfake asusila dapat menempuh jalur hukum. Pelaporan bisa dilakukan kepada aparat penegak hukum maupun Kemkomdigi.
“Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi,” ujar Alexander.
