Ancaman Deepfake Makin Ganas! Ini Langkah Serius Pemerintah Tangkal Bahayanya

Deepfake tak lagi sekadar ancaman maya. Teknologi AI manipulatif ini kini menyasar perempuan dan anak. Pemerintah siapkan tiga langkah konkret: literasi, penindakan, dan perlindungan anak.

V-Today, NASIONAL — Teknologi kecerdasan buatan (AI) deepfake kini menjadi momok nyata. Tak hanya menyesatkan publik, konten video dan audio manipulatif ini juga makin sering digunakan untuk menarget kelompok rentan, seperti perempuan dan anak-anak.

Merespons ancaman ini, Kementerian Komunikasi dan Digital (Komdigi) mengungkap telah menyiapkan tiga strategi utama untuk melindungi masyarakat digital Indonesia:

1. Peningkatan literasi digital

2. Takedown konten negatif

3. Regulasi perlindungan anak berbasis teknologi

“Komdigi berkomitmen menciptakan ruang digital yang aman bagi semua,” ujar Wakil Menteri Komdigi, Nezar Patria, Jumat (25/7).

Nezar menyoroti bahwa penyalahgunaan teknologi deepfake kini menjadi tantangan terbesar. Algoritma pembelajaran mendalam (deep learning) digunakan untuk menciptakan konten palsu yang seolah nyata — dari video, suara, hingga wajah seseorang.

“Ini bukan hanya menyesatkan. Tapi juga menjadi alat untuk menyerang perempuan dan anak,” katanya.

Nezar mengutip laporan Sensity AI yang mencatat peningkatan 550 persen kasus deepfake sejak tahun 2019. Bahkan, 90 persen dari konten deepfake digunakan untuk tujuan jahat, terutama pelecehan visual terhadap perempuan.

“Setidaknya 11 perempuan muda usia 15-29 tahun pernah mengalami kekerasan berbasis gender online sejak usia belia,” ungkapnya.

Komdigi pun menerbitkan PP Nomor 17 Tahun 2025 (PP TUNAS) untuk melindungi anak dalam penyelenggaraan sistem elektronik.

Komdigi mendorong masyarakat, terutama sekolah dan komunitas daerah, untuk ikut serta dalam sosialisasi dan pelatihan literasi digital. Kemampuan memilah informasi, menjaga data pribadi, serta mengenali konten deepfake menjadi keterampilan wajib saat ini.

“AI seharusnya jadi teman untuk berinovasi, bukan alat untuk merugikan,” tegas Nezar.

Tak hanya di Indonesia, polisi Inggris pun mewaspadai lonjakan kejahatan digital berbasis AI, termasuk penipuan identitas dan eksploitasi anak.

Alex Murray, Kepala Kepolisian Nasional Inggris untuk bidang AI, mengatakan para pelaku kriminal semakin kreatif memanfaatkan deepfake.

“Penjahat akan gunakan apapun, termasuk AI, untuk berbuat kejahatan,” kata Murray dikutip The Guardian.

Penipuan CEO & Konten Pelecehan Anak Lewat Deepfake

Salah satu bentuk kejahatan deepfake paling meresahkan adalah penipuan video yang meniru wajah dan suara CEO perusahaan untuk menyaru dan mencuri dana. Lebih parah lagi, teknologi generatif AI kini bisa menciptakan ribuan gambar pelecehan seksual anak secara sintetik.

Semua konten tersebut ilegal, namun makin sulit dilacak karena AI memungkinkan penciptaan massal dalam waktu singkat.(*)

Sumber: CNN