Bayangkan seorang staf keuangan menerima panggilan video dari atasannya. Wajahnya terlihat benar, suaranya terdengar sama, dan ia meminta staf tersebut segera mentransfer uang untuk sebuah transaksi perusahaan. Biasanya, melihat wajah dan mendengar suara atasan dapat membuat permintaan tersebut terasa meyakinkan. Masalahnya, perkembangan kecerdasan buatan membuat wajah dan suara seseorang kini dapat ditiru. Teknologi tersebut dikenal sebagai deepfake dan telah digunakan dalam berbagai bentuk penipuan keuangan (Federal Bureau of Investigation, 2025). 

Apa Itu Deepfake? 

Deepfake merupakan media sintetis atau media yang telah dimanipulasi menggunakan teknologi kecerdasan buatan sehingga dapat menyerupai orang yang sebenarnya. Teknologi AI dapat digunakan untuk membuat atau memanipulasi gambar, video, maupun suara. FBI memperingatkan bahwa suara yang dibuat menggunakan AI kini dapat terdengar hampir sama dengan suara orang yang ditiru sehingga semakin sulit dikenali hanya dengan mendengarkannya (Federal Bureau of Investigation, 2025). 

Teknologi yang awalnya menarik sebagai bentuk inovasi digital dapat menjadi berbahaya ketika digunakan untuk menyamar sebagai orang lain. Dalam konteks perusahaan, target yang menarik adalah orang yang memiliki kewenangan, seperti CEO, CFO, direktur, atau pimpinan lainnya. 

Bagaimana Deepfake Digunakan untuk Fraud? 

Modusnya sebenarnya merupakan perkembangan dari social engineering. Pada penipuan tradisional, pelaku dapat mengirim email seolah-olah berasal dari pimpinan perusahaan. Pelaku kemudian meminta staf keuangan melakukan pembayaran ke rekening tertentu. Dengan AI, penyamaran dapat menjadi lebih meyakinkan. 

FBI menyatakan telah melihat kasus ketika suara sintetis atau deepfake digunakan untuk meyakinkan pegawai agar membayar invoice atau memindahkan uang. Dalam beberapa skenario, pegawai bahkan mengikuti konferensi video dan melihat seseorang yang tampak seperti pimpinan perusahaan, controller, atau CFO (Federal Bureau of Investigation, 2024). Artinya, pesan “tolong transfer sekarang” tidak lagi harus datang melalui email palsu. Permintaan tersebut dapat disampaikan menggunakan suara atau wajah yang menyerupai orang yang dipercaya. 

Kasus Nyata Sudah Terjadi 

Risiko tersebut bukan sekadar teori. Pada 2024, seorang pegawai perusahaan di Hong Kong mengikuti konferensi video yang tampak dihadiri oleh CFO dan beberapa rekan kerjanya. Para peserta tersebut ternyata merupakan deepfake. Pegawai tersebut kemudian melakukan serangkaian transfer dengan nilai lebih dari US$25 juta kepada pelaku (Reuters, 2024). Kasus tersebut menunjukkan bahwa verifikasi melalui video saja tidak selalu cukup untuk memastikan identitas seseorang. Ancaman berbasis AI juga terus berkembang. Dalam laporan IC3 tahun 2025, FBI mencatat kerugian lebih dari US$632 juta pada laporan penipuan investasi yang memiliki keterkaitan dengan AI. FBI menjelaskan bahwa pelaku dapat menggunakan video dan suara buatan AI dari selebritas, CEO, atau figur yang dipercaya untuk membuat tawaran investasi palsu terlihat lebih meyakinkan (Federal Bureau of Investigation, 2026). Angka tersebut tidak berarti seluruh kerugian berasal dari deepfake CEO, tetapi menunjukkan bahwa AI telah menjadi bagian dari ekosistem penipuan keuangan yang lebih luas. 

Mengapa Kita Mudah Tertipu? 

Social engineering bekerja dengan memanfaatkan kepercayaan dan perilaku manusia. Jika sebuah permintaan datang dari orang yang terlihat dan terdengar seperti pimpinan, pegawai dapat merasa memiliki alasan kuat untuk mempercayainya. Situasi dapat menjadi lebih berisiko jika permintaan tersebut disertai tekanan waktu, kerahasiaan, atau alasan bahwa transaksi sangat mendesak. FBI karena itu menyarankan masyarakat tidak langsung menganggap pesan atau panggilan autentik hanya karena terlihat berasal dari orang yang dikenal. Ketika terdapat permintaan pengiriman uang atau informasi sensitif, identitas pengirim perlu dikonfirmasi melalui saluran komunikasi yang sebelumnya sudah diketahui dan dipercaya (Federal Bureau of Investigation, 2025). 

Bisakah Deepfake Dikenali? 

Beberapa deepfake masih memiliki tanda-tanda tertentu. FBI menyebut indikator yang mungkin terlihat antara lain gerakan wajah yang tidak alami, gerakan bibir yang tidak sesuai dengan suara, pencahayaan yang tidak konsisten, jeda suara yang aneh, perubahan intonasi, atau latar suara yang tidak sesuai (Federal Bureau of Investigation, n.d.). Namun, mengandalkan mata dan telinga saja semakin berisiko karena teknologi terus berkembang. Langkah yang lebih kuat adalah menggunakan proses verifikasi yang tidak bergantung hanya pada video atau suara. Misalnya, perusahaan dapat meminta konfirmasi transaksi melalui kanal resmi yang berbeda, menerapkan persetujuan lebih dari satu orang untuk transaksi bernilai besar, serta menghubungi kembali pimpinan melalui nomor yang sudah tersimpan apabila muncul permintaan pembayaran yang tidak biasa. FBI secara khusus merekomendasikan verifikasi independen terhadap informasi kontak sebelum seseorang mengirim uang atau aset ketika menerima permintaan yang mencurigakan (Federal Bureau of Investigation, 2025). 

 

Bibliography 

Federal Bureau of Investigation. (2024). Artificial Intelligence. https://www.fbi.gov/investigate/counterintelligence/emerging-and-advanced-technology/artificial-intelligence 

Federal Bureau of Investigation. (2024). Ahead of the Threat Podcast: Season 1, Episode 6. https://www.fbi.gov/video-repository/ahead-of-the-threat-podcast-s1-e6-charles-carmakal/view 

Federal Bureau of Investigation. (2025). Senior U.S. Officials Impersonated in Malicious Messaging Campaign. https://www.fbi.gov/investigate/cyber/alerts/2025/senior-us-officials-impersonated-in-malicious-messaging-campaign 

Federal Bureau of Investigation. (2026). 2025 IC3 Annual Report. https://www.fbi.gov/file-repository/2025_ic3report.pdf 

Reuters. (2024). Real insurance coverage for increasing AI deepfake risks. https://www.reuters.com/legal/legalindustry/real-insurance-coverage-increasing-ai-deepfake-risks-2024-04-11/