Ikolom.Jakarta – Kementerian Komunikasi dan Digital (Kemkomdigi) mengambil langkah lanjutan terkait dugaan penyalahgunaan fitur kecerdasan buatan Grok AI pada platform X yang diduga digunakan untuk membuat serta menyebarkan konten asusila. Praktik tersebut mencakup manipulasi foto pribadi yang bersifat sensitif tanpa persetujuan pemiliknya.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan bahwa hasil penelusuran awal menunjukkan belum adanya pengaturan yang jelas dan memadai dalam Grok AI untuk mencegah produksi maupun distribusi konten pornografi yang berbasis foto nyata warga Indonesia.
Situasi ini dinilai berpotensi melanggar hak privasi serta hak atas citra diri (right to one’s image), terutama ketika foto seseorang dimanipulasi atau disebarluaskan tanpa izin yang sah dari pemiliknya.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander dalam keterangannya di Jakarta, dikutip Antara, Rabu.
Menurut Kemkomdigi, manipulasi digital terhadap foto pribadi tidak hanya menyentuh aspek kesusilaan, tetapi juga merupakan bentuk perampasan kendali individu atas identitas visualnya. Dampak dari praktik tersebut dapat berujung pada kerugian psikologis, sosial, hingga reputasi korban.
Alexander menyatakan bahwa pihaknya saat ini tengah menjalin koordinasi dengan para Penyelenggara Sistem Elektronik (PSE) guna memastikan adanya mekanisme perlindungan yang efektif bagi masyarakat.
Upaya tersebut meliputi penguatan sistem moderasi konten, pencegahan pembuatan deepfake bermuatan asusila, serta penyediaan prosedur penanganan yang cepat terhadap laporan pelanggaran privasi dan hak citra diri.
“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” tegasnya.
Ia juga mengingatkan bahwa seluruh PSE yang beroperasi di Indonesia wajib mematuhi ketentuan peraturan perundang-undangan yang berlaku. Jika ditemukan pelanggaran atau sikap tidak kooperatif, Kemkomdigi berwenang menjatuhkan sanksi administratif hingga pemutusan akses terhadap layanan Grok AI maupun platform X.
Kemkomdigi menegaskan bahwa penyedia layanan kecerdasan buatan maupun pengguna yang terbukti memproduksi dan/atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak dapat dikenai sanksi administratif dan/atau pidana sesuai ketentuan hukum.
Alexander menjelaskan bahwa sejak diberlakukannya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, pengaturan mengenai pornografi tercantum antara lain dalam Pasal 172 dan Pasal 407.
Pasal 172 mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan. Sementara itu, Pasal 407 mengatur ancaman pidana penjara paling singkat enam bulan dan paling lama sepuluh tahun, atau pidana denda sesuai ketentuan yang berlaku.
Ia menambahkan, masyarakat yang menjadi korban manipulasi foto, deepfake asusila, maupun pelanggaran hak atas citra diri dapat menempuh jalur hukum melalui mekanisme yang tersedia, termasuk melaporkan kasus tersebut kepada aparat penegak hukum serta mengajukan pengaduan ke Kemkomdigi.
“Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi,” ujar Alexander.