Peredaran hoaks AI meningkat pesat di berbagai kanal digital dan mengecoh masyarakat lewat manipulasi audio visual yang meyakinkan. Rekayasa konten deepfake kini mampu meniru mimik wajah dan intonasi tokoh publik secara akurat. Kewaspadaan digital menjadi bekal utama agar publik mampu membedakan fakta orisinal dari konten hasil rekayasa generator pintar.
Contoh nyata terjadi saat beredar potongan video manipulasi mantan pejabat negara yang dibuat seolah mendiskreditkan profesi guru. Rekaman palsu tersebut memicu perdebatan sengit warga net sebelum terbukti sebagai rekayasa algoritma. Fenomena serupa sering muncul karena bias kognitif penerima informasi, serupa dengan penjelasan dalam ulasan efek psikologi di balik akurasi jawaban AI.
Kemudahan akses perangkat lunak AI generatif membuat siapa saja sanggup memproduksi konten palsu berkualitas tinggi dalam hitungan detik. Biaya produksi informasi bohong menjadi sangat murah dan bisa dibuat massal tanpa keahlian teknis khusus.
Data pemantauan Masyarakat Antifitnah Indonesia (Mafindo) mencatat lonjakan tajam konten disinformasi kecerdasan buatan sejak 2022 hingga pertengahan 2026. Pemeriksaan konten bohong mencatat hanya 2 temuan pada 2022, lalu naik menjadi 19 artikel pada 2023. Angka tersebut melonjak ke 239 kasus pada 2024, berlanjut 233 kasus pada 2025, dan menyentuh 172 kasus hingga Agustus 2026.
Format video mendominasi peredaran manipulasi digital karena gambar bergerak memiliki tingkat persuasi paling kuat bagi audiens media sosial. Penyebaran paling tinggi terpantau di platform jejaring sosial utama dengan basis pengguna masif.
Tabel berikut merangkum proporsi format materi manipulasi informasi berdasarkan kajian data verifikasi:
Penyebaran materi rekayasa digital berpusat pada aplikasi media sosial populer. Facebook menduduki posisi puncak peredaran dengan 389 konten, diikuti TikTok dengan 175 temuan. Platform X mencatat 44 peredaran, Instagram menampung 38 konten, YouTube menyumbang 17 video, dan Threads mencatat 9 sebaran.
Isu politik mendominasi topik rekayasa informasi karena memiliki daya tarik emosional paling tinggi untuk memecah belah opini publik. Sektor finansial dan janji pembagian dana tunai menempati urutan berikutnya sebagai perangkap ekonomi.
Data Mafindo mengelompokkan materi rekayasa informasi ke dalam beberapa kluster tema berikut:
Para pembuat konten memanfaatkan figur tokoh nasional untuk mempromosikan judi online, produk kesehatan tanpa izin, hingga investasi bodong. Modus pencatutan wajah kerap mengecoh korban yang percaya begitu saja pada reputasi figur publik yang ditampilkan.
Verifikasi materi visual bisa dilakukan lewat observasi anatomi wajah serta pelacakan jejak arsip audio visual pembanding. Ketelitian visual membantu mendeteksi distorsi gambar yang belum sempurna digarap oleh mesin kecerdasan buatan.
Langkah taktis memverifikasi keaslian tayangan video mencakup tahapan berikut:
Pemerintah menyusun dua Peraturan Presiden yang memuat Peta Jalan AI Nasional 2026-2029 dan pedoman etika pemanfaatan kecerdasan buatan. Kebijakan ini disiapkan untuk memberi kepastian hukum serta menuntut pertanggungjawaban penyedia platform teknologi.
Kementerian Komunikasi dan Digital menyusun kerangka regulasi jangka menengah berdurasi 5 tahun demi menjaga fleksibilitas aturan terhadap lompatan teknologi. Regulasi tersebut mewajibkan platform digital menyematkan label tanda air otomatis pada setiap materi produksi generator pintar. Langkah mitigasi ini penting disiapkan dari sekarang sebelum menghadapi momentum politik besar Pemilu 2029.
