Dengan telah dikembangkannya dokumen strategi nasional bidang kecerdasan artifisial (Artificial Intelligence) di Indonesia pada tahun 2020 silam, serta semakin banyaknya industri yang mengembangkan dan memanfaatkan teknologi AI dalam berbagai kegiatan usahanya, terdapat beberapa tantangan agar Indonesia dapat menguasai teknologi AI ini ke depannya:

1. Regulasi: pengaturan etika dan pemakaian AI yang lebih bertanggung-jawab. Etika terkait pengembangan dan penerapan teknologi AI merupakan hal yang juga menjadi perhatian negara-negara besar. Pengembangan dan penerapan teknologi AI yang tidak diatur dengan etika dapat mengakibatkan kerugian bagi masyarakat. Image generation dan speech synthesis merupakan salah satu contoh teknologi AI yang berpotensi merugikan masyarakat dimana sebuah video dapat dibuat dengan mudah menggunakan teknologi AI sehingga menghasilkan sebuah rekaman video yang sebenarnya tidak pernah terjadi. Teknologi yang disebut dengan deep fake ini dapat digunakan untuk membuat sebuah film tontonan dengan biaya yang lebih rendah dibanding produksi film seperti biasanya, namun di sisi lain, dapat juga digunakan sebagai bahan informasi hoax yang bertujuan untuk menghasut masyarakat.

2. Privasi: terkait dengan penggunaan data yang dipakai untuk pembangunan model AI. Untuk pengaturan privasi ini diperlukan dukungan regulasi dalam pengunaan data sehingga privasi sumber data tetap terjaga namun penerapan teknologi AI tetap dapat dilaksanakan.

3. Kurangnya penjelasan: bagaimana model AI sampai pada suatu keputusan/kesimpulan tertentu (terkait dengan akuntabilitas dan trust). Poin ini menjadi sangat penting terutama untuk sebuah kepentingan dimana model yang dihasilkan harus dapat difahami oleh manusia. Poin ini merupakan poin umum di masyarakat pengembang teknologi AI, bukan hanya di Indonesia. Kebutuhan ini mendasari dikembangkannya Explainable AI.

4. Ketersediaan data: sejauh mana data yang dipakai cukup representative dan tidak bias. Algoritma machine learning yang saat ini merupakan teknologi utama pada AI, sangat tergantung pada ketersediaan data. Jika data yang digunakan untuk membangun model AI merupakan data yang tidak dapat mewakili semua kasus yang ada, maka model AI akan memiliki akurasi yang rendah, bersifat overfit untuk kasus-kasus tertentu yang bersifat majority pada data latih. Oleh karena itu, proses pengembangan data latih merupakan salah satu hal penting dalam membangun model AI yang akurat.

5. Kurangnya talenta dalam pengembangan dan penerapan teknologi AI. Dengan kurangnya talenta yang memiliki kemampuan yang baik dalam mengembangkan teknologi AI, maka ke depannya Indonesia hanya akan menjadi pasar bagi teknologi AI yang dikembangkan oleh negara lain. Untuk mengantisipasi kemungkinan tersebut, maka pengembangan talenta AI merupakan salah satu hal yang memerlukan perhatian khusus. Usaha pengembangan talenta AI harus mencakup berbagai hal yang dapat mendorong pengembangan talenta AI dengan cepat, beberapa diantaranya adalah penyediaan materi pembelajaran teknologi AI, penyediaan infrastruktur yang memudahkan penguasaan teknologi AI, penyiapan dosen/guru di bidang AI, serta penetapan SKKNI AI, dll.