• Kamis, 19 November 2026

Saat AI Bisa Memalsukan Apa Saja, Kewaspadaan Jadi Kunci

Photo Author
ET, EnergiJuangNews.com
- Selasa, 12 Agustus 2025 | 15:00 WIB


Oleh : Esteria Tamba
(Penulis, Aktivis)





Energi Juang News, Jakarta- Yang menakutkan dari gelombang AI saat ini bukan sekadar kecanggihannya, melainkan kecepatannya mengaburkan batas antara nyata dan palsu. Contohnya video “pelatih paus orca” bernama Jessica Radcliffe yang kabarnya tewas diterkam saat atraksi. Nama itu, tempatnya, bahkan rekamannya semuanya fiksi. Beberapa media internasional sudah membongkar bahwa kisah itu lahir dari konten yang dibuat AI, bukan kejadian nyata. Fakta seperti ini memperlihatkan satu hal: imajinasi seperti wartawan, kemampuan produksi seperti studio, kini bisa ada di tangan siapa pun termasuk penipu.





Dampaknya bukan hanya salah paham, melainkan kerugian nyata. Data Federal Trade Commission (FTC) di AS mencatat kerugian publik akibat penipuan digital pada 2024 tembus US\$12,5 miliar, naik 25% dari tahun sebelumnya; sebagian didorong teknik manipulatif yang makin “meyakinkan” termasuk deepfake suara dan video. Kasus paling ekstrem: staf keuangan di Hong Kong ditipu lewat rapat Zoom yang seluruh “pesertanya” adalah deepfake, hingga mengirim US$25 juta. Ini bukan masa depan dystopia ini sudah terjadi tahun lalu.





Kapasitas penjahat siber juga naik kelas. Laporan dan liputan terbaru menyoroti deepfake real time (wajah dan suara) yang dipakai untuk menyaru CEO, merekrut korban dalam “wawancara” palsu, atau mengunci dana lewat instruksi mendesak. Skala kerugiannya sudah menyentuh puluhan juta dolar per kasus, sementara alat kloning suara bisa bekerja hanya dari belasan menit rekaman. Artinya: siapa pun yang punya jejak digital dari konten kreator sampai pejabat punya “bahan baku” untuk dipalsukan.





Indonesia tidak kebal. Pemerintah lewat Kominfo/Komdigi berkali kali memperingatkan maraknya penipuan berbasis deepfake dan menyerukan literasi verifikasi audio-video. OJK juga menandai lonjakan laporan penipuan digital. Bahkan ada peringatan khusus soal kloning suara yang menyasar warga lewat pesan WhatsApp dengan mengatasnamakan pejabat. Poinnya jelas: kita memasuki fase di mana orang melek teknologi pun bisa terkecoh.





Apa yang harus dilakukan? Pertama, ubah “kebiasaan percaya” menjadi “kebiasaan verifikasi”. Kabar mengejutkan apalagi yang menyentuh emosi wajib dicek lintas sumber tepercaya sebelum di-share. Gunakan pencarian gambar balik (reverse image search), cek apakah ada liputan media kredibel, dan perhatikan sinyal palsu (gerak bibir tak sinkron, artefak aneh, latar yang “terlalu sempurna”). Kasus orca di atas runtuh begitu dicek: tak ada catatan peristiwa, tak ada identitas asli, tak ada lokasi yang valid.





Kedua, dorong standar keamanan dan akuntabilitas. Platform perlu menambah penanda asal-usul konten (content provenance seperti C2PA), memperketat autentikasi akun, dan menindak cepat produsen deepfake yang merugikan publik. Lembaga dan korporasi wajib memperbarui SOP misalnya, transaksi besar tak boleh diputuskan lewat panggilan/rapat digital satu kanal; harus ada verifikasi kedua melalui jalur berbeda. Banyak kebocoran besar terjadi bukan karena teknologi canggih, melainkan prosedur yang malas.


Dilarang mengambil dan/atau menayangkan ulang sebagian atau keseluruhan artikel
di atas untuk konten akun media sosial komersil tanpa seizin redaksi.
Halaman:

Editor: ET

Tags

Terkini

X