ORBIT-NEWS.COM, JAKARTA - Kementerian Komunikasi dan Digital (Kemkomdigi) tengah menaruh perhatian serius terhadap dugaan penyalahgunaan teknologi kecerdasan buatan Grok AI yang terintegrasi dalam platform X. Teknologi tersebut disinyalir dimanfaatkan untuk membuat dan menyebarluaskan konten asusila, termasuk rekayasa foto pribadi yang bersifat sensitif tanpa persetujuan pemiliknya.
Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan bahwa hasil penelusuran awal menunjukkan masih adanya celah dalam sistem pengamanan Grok AI. Hingga kini, belum ditemukan pengaturan yang secara tegas dan memadai untuk mencegah produksi maupun distribusi konten pornografi berbasis foto nyata warga Indonesia.
Kondisi tersebut dinilai berpotensi menimbulkan pelanggaran serius terhadap hak privasi serta hak atas citra diri seseorang. Manipulasi digital terhadap foto pribadi, menurut Alexander, bukan hanya melanggar norma kesusilaan, tetapi juga merampas kendali individu atas identitas visualnya.
“Jika foto pribadi dimanipulasi dan disebarkan tanpa persetujuan, dampaknya tidak hanya bersifat hukum, tetapi juga psikologis, sosial, dan reputasi korban. Ini adalah pelanggaran yang sangat serius,” ujar Alexander, Rabu (7/1/2026).
Baca juga: Kementan Gerak Cepat Pulihkan Sektor Pertanian Terdampak Banjir
Kemkomdigi menegaskan bahwa persoalan ini tidak bisa dipandang sebagai isu teknis semata. Teknologi kecerdasan buatan, apabila tidak dibarengi dengan sistem pengamanan yang kuat, berpotensi menjadi alat eksploitasi dan perusakan martabat manusia di ruang digital.
Sebagai langkah tindak lanjut, Kemkomdigi saat ini menjalin koordinasi intensif dengan para Penyelenggara Sistem Elektronik (PSE). Pemerintah mendorong penguatan moderasi konten, pencegahan pembuatan deepfake asusila, serta penyediaan mekanisme penanganan laporan yang cepat dan responsif bagi korban pelanggaran privasi.
Baca juga: Menaker Dorong Sertifikasi Profesi Lebih Inklusif, Murah, dan Menjangkau Penyandang Disabilitas
Alexander menegaskan, setiap PSE memiliki kewajiban memastikan teknologi yang mereka kelola tidak disalahgunakan untuk pelanggaran privasi, eksploitasi seksual, atau tindakan yang merendahkan martabat seseorang. Kepatuhan terhadap regulasi nasional menjadi syarat mutlak bagi seluruh platform digital yang beroperasi di Indonesia.
Kemkomdigi mengingatkan, apabila ditemukan ketidakpatuhan atau sikap tidak kooperatif dari penyedia layanan, pemerintah dapat menjatuhkan sanksi administratif hingga langkah paling tegas berupa pemutusan akses terhadap layanan Grok AI maupun platform X di Indonesia.
Baca juga: Dirjen Haji Tegaskan PPIH Harus Hadir Nyata, Layanan Jemaah Jadi Ukuran Keberhasilan
Seiring berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) sejak 2 Januari 2026, ketentuan terkait pornografi kini memiliki dasar hukum yang lebih kuat. Dalam KUHP tersebut, pornografi diatur antara lain melalui Pasal 172 dan Pasal 407, dengan ancaman pidana penjara mulai dari enam bulan hingga sepuluh tahun, atau denda sesuai ketentuan yang berlaku.
Kemkomdigi juga membuka ruang bagi masyarakat untuk melapor apabila menjadi korban manipulasi foto, deepfake asusila, atau pelanggaran hak citra diri. Korban dapat menempuh jalur hukum melalui aparat penegak hukum maupun mekanisme pengaduan resmi kepada Kemkomdigi.
“Pemanfaatan kecerdasan buatan harus disertai tanggung jawab. Ruang digital bukan wilayah bebas hukum. Setiap warga negara memiliki hak atas privasi dan citra dirinya, dan itu wajib dilindungi,” pungkas Alexander.
Baca juga: “Lapor Pak Amran” Bongkar Mafia Pupuk hingga Pangan Ilegal
Belum ada komentar.
Orbit-News.com membuka ruang bagi suara publik melalui rubrik Orbit Vox. Di sini, setiap pembaca dapat menyampaikan aspirasi, kritik, gagasan, maupun laporan terkait berbagai persoalan sosial yang terjadi di sekitar mereka. Kami percaya, partisipasi masyarakat adalah kunci untuk menghadirkan informasi yang lebih jernih, berimbang, dan bermanfaat bagi semua.
