Deepfake dan Digital Scam Dominasi Lanskap Hoaks Nasional 2025

TIMESINDONESIA, JAKARTA – Di sudut ruang cafe di Jalan Ijen Kota Malang, para jurnalis dan redaktur TIMES Indonesia berkumpul. Mereka bukan sekadar mendiskusikan angka. Mereka membaca tanda: pergeseran taktis disinformasi dari pesan berantai kasar ke produk kecerdasan buatan yang presisi—video, suara, dan situs palsu yang sulit dibedakan dari yang asli. Hasil riset Mafindo yang dipaparkan pada acara itu merekam 1.593 hoaks antara 21 Oktober 2024 dan 19 Oktober 2025 — banyak di antaranya memanfaatkan teknologi AI untuk membuat deepfake dan modus scam yang terpersonalisasi.

Fenomena ini bukan sekadar masalah teknis. Ia menyentuh sendi demokrasi, ekonomi, dan kepercayaan publik. Dalam setahun pertama pemerintahan Prabowo–Gibran, medan pertempuran publik bergeser: partai politik, pemerintahan, dan organisasi publik kini harus beradu taktik dengan bot, model generatif, dan penipu yang memanfaatkan kebocoran data.

Wajah Baru Disinformasi: Deepfake dan Narasi Politik

Deepfake bukan lagi sekadar eksperimen laboratorium. Di Indonesia, konten manipulatif yang meniru wajah dan suara pejabat atau tokoh masyarakat telah menyebar cepat, memicu kemarahan dan polarisasi. Contoh-contoh kasus yang dibahas Mafindo — dari video yang menempatkan kata-kata palsu di mulut menteri hingga klip yang dimaksudkan untuk mendeligitimasi aksi massa — menggambarkan betapa realistis dan cepatnya produk keluaran generatif AI dapat mengubah persepsi publik. 

Analisis redaksi menunjukkan pola: momen politik sensitif (reshuffle, peristiwa kebijakan, atau peringatan publik) menjadi pemicu lonjakan konten palsu berkualitas tinggi. Dalam konteks ini, cepat-lambat deteksi menjadi soal hidup-mati reputasi karena satu video 30 detik dapat membentuk narasi yang bertahan berhari-hari bahkan setelah dibantah.

Dari Narasi ke Kantong Korban: Scam Berbasis Nama Negara dan BUMN

Lebih mengkhawatirkan lagi adalah peralihan modus ke ranah ekonomi digital. Mafindo menemukan tren scam yang menumpang nama program pemerintah dan BUMN — rekrutmen fiktif, “bantuan sosial” palsu, dan tawaran investasi bohong — yang memanfaatkan kredibilitas institusi untuk menjerat korban. Modus ini semakin canggih karena memanfaatkan teknik voice-cloning, situs tiruan, dan pesan bertarget berdasar data pribadi yang bocor. 

Kominfo sendiri sejak beberapa tahun terakhir mengidentifikasi ribuan isu hoaks: catatan resmi menyebut lebih dari 12.500 isu hoaks yang ditangani hingga akhir 2023 — angka yang memberi gambaran skala masalah dan kemungkinan besar hanya mewakili sebagian dari konten yang sebenarnya beredar, terutama di platform tertutup seperti WhatsApp dan Telegram. Data ini menandai adanya gap antara ruang publik yang terpantau dan ruang tertutup yang sulit dijangkau.

Negara Bereaksi, Tapi Tempoannya Tertinggal

Pemerintah melalui Kominfo telah mengembangkan mekanisme Tim AIS untuk mendeteksi dan menurunkan konten bermasalah, serta membangun kanal verifikasi publik. Namun sumber internal dan pengamat menyatakan: kapasitas moderasi berskala negara sering bersifat reaktif—menghapus setelah viral—ketimbang mencegah atau mendeteksi dini pola yang berulang. Sanksi hukum terhadap pembuat deepfake politik masih kabur secara yuridis, dan regulasi AI yang spesifik belum rampung. 

Secara global, badan-badan internasional juga memperingatkan tren serupa: badan PBB dan komunitas TI menyoroti perlunya alat deteksi, kolaborasi platform, dan aturan internasional untuk menghadapi ancaman deepfake yang dapat digunakan untuk campur tangan politik dan penipuan ekonomi. Laporan internasional menegaskan bahwa perusahaan dan negara harus mempercepat adopsi alat deteksi dan kebijakan mitigasi. 

Bukti Akademik: Riset Lokal tentang Deteksi dan Dampak Deepfake

Upaya di kampus-kampus Indonesia menunjukkan respons akademik yang berkembang. Penelitian di UGM dan tesis-tesis terkait menunjukkan kemajuan pada teknik pendeteksian—baik untuk audio deepfake (menggunakan transformasi time-frequency dan augmentasi data) maupun analisis biomarker neural untuk membedakan wajah asli dan sintetis—tetapi penelitian ini masih pada tahap pengembangan laboratorium dan belum distandarisasi untuk penanganan cepat di skala nasional. Temuan-temuan ini penting: mereka memberikan matriks teknis deteksi yang bisa diintegrasikan ke sistem pengawasan nasional, namun memerlukan pendanaan dan kolaborasi industri agar efektivitasnya operasional. 

Kertas-kertas akademik di jurnal komunikasi juga menegaskan satu hal: deepfake mengikis kepercayaan publik karena publik sering kekurangan pengetahuan teknis untuk membedakan manipulasi, sementara algoritma platform memprioritaskan keterlibatan (engagement) yang justru mempercepat distribusi konten sensasional. 

Peta Intervensi: Inisiatif, Keterbatasan, dan Jalan Keluar

Beberapa langkah yang sedang berlangsung atau diusulkan — dan yang kami nilai penting. Pertama Sistem pemantauan lintas platform berbasis ML. Mafindo dan sejumlah kampus sedang menjajaki sistem yang memadukan deteksi pola narasi otomatis dengan modul deteksi sintetik (audio/video). Inisiatif ini harus disinkronkan dengan Kominfo dan BSSN agar peringatan dini dapat mencapai redaksi media, penyedia platform, dan penegak hukum. 

Kedua, standar verifikasi identitas & perlindungan data pribadi. Banyak scam berhasil karena kebocoran data dan lemahnya standar verifikasi. Negara perlu mempercepat kerangka perlindungan data pribadi yang menegaskan sanksi bagi pihak yang memperdagangkan data sensitif. Kominfo telah menunjukkan kapasitas deteksi, namun langkah preventif hukum dan penegakan terhadap kebocoran data mesti diperkuat. 

Ketiga, Kurikulum literasi digital terstruktur di sekolah & kampus. Data survei Kominfo–mitra menunjukkan tingkat kesadaran publik terhadap bahaya hoaks belum memadai. Pendidikan literasi media yang mengajarkan pemeriksaan sumber, tanda manipulasi visual, dan logika ekonomi scam perlu diintegrasikan ke jenjang formal. 

Terakhir, Platform besar harus menyediakan API atau alat bagi peneliti independen untuk mendeteksi pola penyebaran deepfake dan scam—dengan mekanisme perlindungan privasi. Laporan internasional merekomendasikan kerja sama semacam ini.

Kisah Nyata: Seorang Guru dan Sebuah Video

Seorang guru sekolah menengah di Jawa Tengah (identitas disamarkan oleh redaksi) menerima serangan daring setelah sebuah video yang menampilkan wajahnya—tetapi suara dan konteksnya dimanipulasi—beredar di grup WhatsApp lokal. Meskipun tim verifikasi mengklarifikasi sebagai palsu dalam 48 jam, reputasi guru itu rusak; murid mendapat tekanan, dan sekolah harus menutup sementara aktivitas diskusi publiknya. Kasus ini memotret satu hal: koreksi yang benar sering datang terlambat, sedangkan kerusakan reputasi terjadi seketika.

Analisis Redaksi: Mengapa Indonesia Tak Boleh Tertinggal Lagi

Menggabungkan data Mafindo, catatan Kominfo, dan temuan akademik menghasilkan gambaran tajam: Indonesia berada pada belokan berbahaya. Regulasi tertinggal, literasi menipis, dan alat penegakan belum sinergis. Di saat yang sama, alat pembuatan hoaks menjadi murah, cepat, dan sangat meyakinkan.

Skala masalah: Catatan Kominfo (lebih dari 12.500 isu hoaks tertangani hingga 2023) memberi indikasi bahwa volume adalah besar dan berulang—sementara Mafindo merekam 1.593 hoaks hanya dalam satu tahun terakhir yang sangat terfokus pada konten AI.

Kualitas ancaman: Deepfake membuat verifikasi konvensional (cek sumber, bandingkan kutipan) kurang efektif jika wajah dan suara sudah dipalsukan. Riset di UGM dan jurnal komunikasi nasional menggarisbawahi bahwa deteksi teknis bisa dikembangkan, tetapi belum tersebar ke aparat dan publik luas. 

Risiko ekonomi dan sosial: Scam berkedok nama BUMN mengubah hoaks menjadi ancaman finansial langsung, memperbesar dampak sosial dari disinformasi. Mafindo menemukan pola ini dalam riset lapangannya.

Jika negara ingin menjaga stabilitas politik dan ekonomi, kedaulatan informasi harus diperlakukan setara dengan kedaulatan energi atau pangan: ada infrastruktur, aturan, dan institusi pengawal yang kuat.

Rekomendasi Final untuk Pemerintah & Pemangku Kepentingan Bentuk task force lintas kementerian (Kominfo–BSSN–Kemenkumham) khusus AI & disinformasi yang bekerja 24/7 dan terhubung langsung dengan platform digital. Akselerasi undang-undang perlindungan data pribadi dan penegakan hukum untuk memutus rantai perdagangan data yang memicu scam. 

Dana riset & implementasi deteksi deepfake nasional: subsidi riset untuk UGM, UI, ITB, LSPR, dan lembaga forensik digital agar alat deteksi bisa dipakai di newsroom, BSSN, dan Kominfo. Program literasi digital masif yang terintegrasi ke kurikulum sekolah dan kampus, serta kampanye publik terstruktur melawan modus scam. 

Catatan TIMES Indonesia

Perang informasi saat ini bukan soal siapa paling berisik, melainkan siapa paling cepat menangani realitas buatan yang tampak nyata. Dalam waktu yang relatif singkat, teknologi telah mengubah skenario: korporasi, negara, dan warga biasa kini hidup di dunia di mana kebenaran dapat diproduksi—dan dibeli—dengan modal teknologi. Indonesia memiliki kapasitas ilmiah dan kelembagaan untuk menahan gelombang ini; yang dibutuhkan sekarang adalah kecepatan, kehendak politik, dan kolaborasi lintas sektor yang nyata. Jika tidak, satu video palsu akan terus mendikte realitas publik — dan itu yang tidak boleh kita biarkan terjadi.

Sumber utama data dan rujukan yang digunakan untuk naskah ini: publikasi dan siaran pers Kominfo (catatan isu hoaks, Tim AIS), rilis dan publikasi Mafindo (laporan pemetaan hoaks 21 Okt 2024–19 Okt 2025), penelitian UGM terkait deteksi audio/video deepfake, tinjauan literatur komunikasi tentang dampak deepfake di Indonesia, serta laporan internasional terkait deteksi dan regulasi deepfake/AI.(*)