ORBIT-NEWS.COM, JAKARTA – Ancaman penipuan menggunakan video dan suara palsu berbasis kecerdasan artifisial atau artificial intelligence (AI) menjadi perhatian pemerintah. Wakil Menteri Komunikasi dan Digital (Wamenkomdigi), Nezar Patria menegaskan pentingnya sistem pendeteksi deepfake serta penelusuran jejak keaslian konten untuk melindungi masyarakat dari manipulasi digital.

Menurut Nezar, teknologi AI kini memungkinkan seseorang membuat video yang seolah-olah menampilkan tokoh terkenal sedang menyampaikan pernyataan tertentu. Padahal, video tersebut merupakan hasil rekayasa yang dapat digunakan untuk menipu dan memicu kerugian finansial.

Ia menilai pengembang AI dan platform digital perlu mengambil tanggung jawab lebih besar dalam mendeteksi serta mengidentifikasi konten hasil manipulasi teknologi tersebut.

“Video-video palsu yang dibuat dengan teknologi deepfake AI itu berhasil menipu banyak sekali masyarakat kita, terutama mereka yang cukup rentan, mereka yang di usia lanjut dan anak-anak. Bahkan mereka yang terpelajar juga banyak menjadi korban,” kata Nezar.

Nezar menjelaskan, penipuan menggunakan deepfake bukan sekadar ancaman di dunia maya. Modus tersebut dapat memanfaatkan wajah dan identitas tokoh publik untuk membangun kepercayaan calon korban, sebelum mengarahkan mereka melakukan transaksi keuangan tertentu.

Baca juga: Kemenkes Kirim 500 Ribu Masker per Provinsi dan Siapkan Rumah Oksigen

Ia mencontohkan sejumlah kasus pada tahun sebelumnya ketika nama gubernur hingga presiden dicatut dalam video manipulasi AI. Konten tersebut digunakan untuk mengajak masyarakat menyetorkan atau mendepositokan uang ke rekening tertentu.

“Tidak tanggung-tanggung, pembuatan video deepfake misalnya, itu mencatut nama-nama orang yang cukup terkenal, bahkan presiden sekalipun dicatut. Sejumlah gubernur, tahun lalu, menjadi korban karena digunakan dalam video-video yang beredar untuk menganjurkan masyarakat mendepositokan uang yang mengakibatkan kerugian puluhan juta,” ujarnya.

Jejak Keaslian Konten AI Dinilai Penting

Untuk mengantisipasi penyalahgunaan teknologi tersebut, Nezar mendorong penerapan provenance and authenticity, yakni pendekatan untuk menelusuri asal-usul dan memeriksa keaslian suatu konten digital. Melalui pendekatan ini, informasi mengenai sumber dan riwayat pembuatan atau perubahan konten dapat membantu proses identifikasi ketika sebuah foto, video, maupun materi digital lainnya diduga telah dimanipulasi.

Nezar menegaskan, upaya mendeteksi deepfake tidak semestinya hanya mengandalkan kemampuan masyarakat dalam mengenali kejanggalan visual atau suara. Pengembang AI dan penyedia platform digital juga perlu berperan aktif membangun mekanisme untuk melacak keaslian konten.

Baca juga: Bansos PKH dan BPNT Kini Bisa Dicairkan di KDMP

“Tanggung jawab untuk pendeteksian deepfake harus pertama-tama dibebankan kepada platform yang menyediakan konten-konten seperti ini dan para pengembang AI. Jadi, harus ada yang namanya jejak otentisitas dari satu konten yang dihasilkan,” tegasnya.

Ia menambahkan, penerapan teknologi penanda keaslian telah menjadi salah satu pendekatan yang berkembang di tingkat global. Sebagai contoh, sejumlah perangkat smartphone terbaru dapat menyertakan metadata pada foto yang diambil menggunakan kamera.

Informasi tersebut dapat membantu penelusuran asal-usul dan riwayat suatu gambar. Apabila gambar mengalami perubahan menggunakan AI, metadata atau mekanisme autentikasi yang tersedia berpotensi memberikan petunjuk untuk pemeriksaan lebih lanjut.

“Pendekatan ini juga sudah dilakukan di tingkat global, misalnya sejumlah perangkat smartphone terbaru sudah memberikan metadata dari foto yang kita ambil sehingga kalau dimanipulasi menggunakan artificial intelligence, tetap bisa dibaca jejaknya. Itu salah satu bentuk pendekatan yang kita kenal sebagai provenance and authenticity,” jelas Nezar.

Meski demikian, metadata tidak selalu menjamin sebuah konten sepenuhnya asli karena informasi tersebut dapat dihilangkan atau diubah. Karena itu, pemeriksaan keaslian tetap perlu didukung mekanisme verifikasi dan analisis lainnya. 

Baca juga: Kristomei Sianturi Resmi Pimpin BNPB, Penanganan Banjir, Kebakaran Hutan hingga Erupsi Gunung Api Jadi Prioritas

Selain mendorong penguatan teknologi, Nezar menekankan pentingnya meningkatkan kecakapan digital masyarakat. Kemampuan memeriksa sumber informasi, mengenali indikasi manipulasi, dan tidak terburu-buru mempercayai konten viral menjadi bagian penting dalam menghadapi penipuan berbasis AI.

Masyarakat juga diminta berhati-hati ketika menerima video yang menampilkan tokoh publik menawarkan investasi, menjanjikan keuntungan, atau meminta transfer uang. Identitas seseorang yang terlihat dan terdengar meyakinkan dalam sebuah video tidak otomatis membuktikan bahwa pernyataan tersebut benar-benar disampaikan oleh orang yang bersangkutan.(*)