GazanaPublika.com, Jakarta — Meningkatnya laporan dugaan penyalahgunaan kecerdasan buatan untuk memanipulasi foto pribadi mendorong Kementerian Komunikasi dan Digital (Kemkomdigi) melakukan penelusuran terhadap fitur Grok AI yang terintegrasi di platform X. Teknologi tersebut diduga digunakan untuk memproduksi dan menyebarkan konten asusila berbasis citra nyata tanpa persetujuan pemiliknya.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi Alexander Sabar menyatakan, hasil penelusuran awal mengindikasikan belum adanya pengamanan khusus dalam sistem Grok AI yang secara tegas mencegah pembuatan dan distribusi konten pornografi dari foto asli warga Indonesia.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander dalam keterangannya di Jakarta, Rabu.
Menurut Kemkomdigi, manipulasi visual berbasis teknologi bukan sekadar pelanggaran norma kesusilaan, melainkan bentuk penghilangan kendali individu atas identitas visualnya. Dampaknya dapat meluas, mulai dari tekanan psikologis, kerusakan relasi sosial, hingga degradasi reputasi korban di ruang publik digital.
Sebagai respons, Kemkomdigi kini memperkuat koordinasi dengan para Penyelenggara Sistem Elektronik (PSE). Upaya tersebut diarahkan pada peningkatan sistem moderasi konten, pencegahan produksi deepfake asusila, serta pembentukan mekanisme penanganan cepat atas aduan pelanggaran privasi dan hak atas citra diri.
“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” tegasnya.
Alexander juga menekankan bahwa seluruh PSE yang beroperasi di Indonesia terikat kewajiban untuk mematuhi peraturan perundang-undangan nasional. Apabila ditemukan pelanggaran atau sikap tidak kooperatif, Kemkomdigi memiliki kewenangan menjatuhkan sanksi administratif, termasuk kemungkinan pemutusan akses terhadap layanan Grok AI maupun platform X.
Seiring berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, pengaturan terkait pornografi kini memiliki dasar hukum yang lebih eksplisit. Alexander menjelaskan bahwa ketentuan tersebut tercantum antara lain dalam Pasal 172 dan Pasal 407.
Pasal 172 mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang bertentangan dengan norma kesusilaan, sementara Pasal 407 mengatur ancaman pidana penjara paling singkat enam bulan dan paling lama 10 tahun atau pidana denda sesuai ketentuan hukum.
Kemkomdigi juga mengingatkan masyarakat yang menjadi korban manipulasi citra, deepfake asusila, atau pelanggaran hak atas citra diri untuk menempuh jalur hukum melalui aparat penegak hukum maupun mekanisme pengaduan resmi ke Kemkomdigi.
“Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi,” ujar Alexander.
