Perkembangan kecerdasan buatan atau Artificial Intelligence (AI) membawa banyak kemudahan dalam kehidupan sehari-hari. Namun, teknologi ini juga membuka peluang baru bagi pelaku kejahatan digital. Melalui teknologi deepfake, seseorang dapat memanipulasi wajah, suara, hingga video agar terlihat seperti orang sungguhan. Pada 17 Oktober 2026, Kementerian Komunikasi dan Digital (Komdigi) kembali menyoroti semakin sulitnya membedakan konten buatan AI dari konten asli serta mengkaji aturan pelabelan konten AI untuk mengurangi risiko penyalahgunaan.

Salah satu bentuk penyalahgunaan AI adalah penipuan yang memanfaatkan identitas palsu untuk mendapatkan uang atau informasi pribadi. Pelaku dapat meniru suara anggota keluarga, menyamar sebagai tokoh terkenal, atau membuat video palsu yang mempromosikan investasi fiktif. Karena konten tersebut terlihat dan terdengar meyakinkan, korban dapat terdorong untuk mentransfer uang atau membagikan data sensitif tanpa melakukan pemeriksaan lebih lanjut. Pada Juli 2026, Komdigi menyebut kerugian akibat spam dan penipuan digital di Indonesia mencapai sekitar Rp7,5 triliun berdasarkan laporan Global Anti-Scam Alliance.

Dampak penipuan berbasis AI tidak hanya terbatas pada kerugian finansial, tetapi juga dapat mengikis kepercayaan masyarakat terhadap informasi di internet. Ketika foto, rekaman suara, dan video dapat dimanipulasi dengan mudah, masyarakat mungkin mulai meragukan bahkan bukti digital yang sebenarnya autentik. Situasi ini dapat menyulitkan penyebaran informasi yang benar, merusak reputasi seseorang, dan memperbesar penyebaran hoaks. Oleh karena itu, kemampuan untuk membedakan fakta dari manipulasi digital menjadi semakin penting di tengah pesatnya perkembangan teknologi.

Untuk menghadapi masalah ini, masyarakat perlu membiasakan diri memverifikasi informasi sebelum mempercayai atau menyebarkannya. Jika menerima permintaan uang melalui telepon atau pesan yang mencurigakan, hubungi orang terkait melalui saluran lain yang sudah dikenal dan jangan langsung mengikuti instruksi yang diberikan. Di sisi lain, platform digital dan pengembang AI juga perlu memperkuat sistem pendeteksian manipulasi serta menyediakan penanda keaslian konten. Komdigi telah mendorong pendekatan provenance and authenticity, yaitu mekanisme untuk menelusuri asal-usul dan keaslian konten digital. Pada akhirnya, menjaga kepercayaan di internet membutuhkan tanggung jawab bersama, baik dari pengguna maupun pihak yang mengembangkan teknologi.

Referensi

1. Deepfake Makin Sulit Dikenali, Kemkomdigi Kaji Aturan Label Konten AI — Kementerian Komunikasi dan Digital, 17 Oktober 2026. https://www.komdigi.go.id/berita/siaran-pers/detail/deepfake-makin-sulit-dikenali-kemkomdigi-kaji-aturan-label-konten-ai

2. Angka Kerugian Scam di Indonesia Capai Rp7,5 Triliun, Wamen Nezar Dorong Pelindungan Konsumen Digital — Kementerian Komunikasi dan Digital, 1 Juli 2026. https://www.komdigi.go.id/berita/siaran-pers/detail/angka-kerugian-scam-di-indonesia-capai-rp75-triliun-wamen-nezar-dorong-pelindungan-konsumen-digital

3. Bendung Penipuan Deepfake, Wamen Nezar Patria Dorong Penerapan Jejak Keaslian dalam Konten — Kementerian Komunikasi dan Digital, 14 Oktober 2026. https://www.komdigi.go.id/berita/siaran-pers/detail/bendung-penipuan-deepfake-wamen-nezar-patria-dorong-penerapan-jejak-keaslian-dalam-konten

Image source: AI generated