Akhir-akhir ini, hampir semua orang di media sosial berbicara tentang AI. Ketika sebuah postingan konten terkesan “janggal”, orang beramai-ramai menulis komentar “AI nih”. 

 

Minggu lalu, saya berkumpul dengan teman-teman lama di sebuah kedai kopi. Berbincangan kami seputar kabar, update kehidupan dan teknologi. Disclaimer, latar belakang teman-teman saya ini kebetulan bukan di bidang kreatif atau teknologi. Salah satu teman saya berkata, “sekarang apa saja bisa dibikin pakai AI. Kita tanya apapun pasti dijawab”. Sayangnya, mereka belum mengetahui ada hal-hal yang harus dipahami sebelum menggunakan AI untuk menjawab semua pertanyaan sehari-hari. Pertanyaan random seperti “apa manfaat buah apel?”. Mereka yakin bahwa jawaban AI 100% benar dan akurat. Apakah benar demikian? 

Sebelum masuk lebih jauh, izinkan saya berbagi sedikit latar belakang. Saya bekerja sebagai UI/UX designer di sebuah perusahaan swasta di sektor pendidikan, tepatnya di unit yang turut mendorong transformasi digital di lingkungan internal. Kami sudah mulai mengeksplorasi AI sejak awal kemunculannya, ketika hasilnya masih jauh dari sempurna dan belum banyak orang di sekitar saya (di luar tim) yang benar-benar memahami apa itu AI.

Seiring waktu, teknologinya berkembang sangat cepat. AI kini bukan lagi sesuatu yang eksperimental, tapi sudah digunakan secara luas oleh masyarakat. Dalam pekerjaan saya sendiri, AI menjadi alat bantu, terutama untuk kebutuhan visual yang membantu mempercepat proses tanpa mengorbankan kualitas. Penggunaannya pun bukan sekadar “copy-paste hasil jadi”, melainkan tetap melalui proses editing, penyusunan layout, hingga finishing yang matang. 

Dan sampai hari ini, proses belajarnya masih terus berjalan. Dunia AI bergerak cepat—dengan update yang hampir tak pernah berhenti, serta munculnya berbagai model LLM dengan keunggulan dan benchmark yang terus bersaing. 

Oke, saya rasa cukup perkenalannya, mari kita lanjutkan pembahasan mengenai AI.  

Sebelum kalian menggunakan AI, ada baiknya mengetahui beberapa ketentuan AI agar menjadi fondasi dalam merespon jawaban hasil generate AI. Mungkin setelah mengetahuinya, anda tidak lagi bilang “tinggal tanya AI aja, dia tahu semua.” Sebenarnya ada sekitar 10 poin esensial mengenai ketentuan AI yang tertulis di beberapa sumber artikel dan publikasi, namun saya setuju dengan sebuah artikel yang ditulis oleh Syeiras Naphad. Dia menulis 5 poin fundamental AI term, dan menurut saya ini sudah cukup menjadi fondasi kuat untuk pengguna baru. 

Yuk, mulai. 

AI-Generated Image

 

  1. Token

Kalau manusia berkomunikasi dengan rangkaian kata yang membentuk kalimat, LLM hanya membaca potongan-potongan kata, bahkan unit terkecil dari sebuah kata (chunk). Pecahan-pecahan kata ini yang disebut token. Kita ambil contoh kalimat “ saya belajar membaca”. Bagi manusia, ini adalah sebuah kalimat, tapi bagi AI kalimat ini akan dipecah menjadi token “saya”, “belajar”, “membaca”. Bahkan bisa menjadi lebih kecil lagi, “bel”, “ajar”, “mem”, “baca”. 

Mengapa ini penting diketahui?

Karena setiap produk AI yang Anda gunakan seperti ChatGPT, Claude, Gemini, menghitung token di balik layar. Semakin banyak token yang Anda kirim dalam pesan Anda, semakin banyak yang harus diproses oleh model. Semakin banyak token yang dihasilkan dalam balasannya, semakin mahal biaya operasionalnya. 

2. Context Window (Jendela Konteks) 

Dikutip dari IBM, jendela konteks dari model bahasa besar (LLM) adalah jumlah teks, dalam token, yang dapat dipertimbangkan atau “diingat” oleh model sekaligus. Jendela konteks yang lebih besar memungkinkan model AI untuk memproses input yang lebih lama dan memasukkan jumlah informasi yang lebih besar ke dalam setiap hasil. 

Bayangkan anda berbicara dengan orang yang hanya bisa mengingat kata-kata spesifik seperti di menit ke X dan beberapa kata di akhir ucapan anda. Kemana kata-kata lain? Hilang dan terlupakan. Itulah gambaran ketika AI memiliki jendela konteks terbatas untuk mengolah semua kata-kata yang anda letakkan dalam sebuah percakapan. Semakin besar ukuran jendela konteks LLM, akan meningkatkan kemampuan akurasi, lebih sedikit halusinasi, respons model yang lebih koheren, percakapan yang lebih lama, dan peningkatan kemampuan untuk menganalisis urutan data yang lebih panjang. Namun, biaya untuk mendapatkan jendela konteks besar tidaklah murah. 

Sebagai referensi, berikut ini adalah daftar panjang jendela konteks yang ditawarkan oleh beberapa model dan keluarga model yang sering dikutip per Jamuari 2026, dikutip dari elvex.com. Beberapa model bahkan telah menawarkan Ultra-Long Context Champions dengan panjang lebih dari satu juta token. 

  • Gemini 3 Pro: 10 Million Tokens 
  • Llama 4 Scout: 10 Million Tokens 
  • OpenAI GPT-4.1 Models: 1 Million Tokens 
  • Anthropic Claude 4 Sonnet: 200,000 Tokens 
  • Gemini 2.5 Pro: 1 Million Tokens 
  • GPT-5 Series: 400,000 Tokens 
  • DeepSeek V3: 128,000 Tokens 
  • Meta Llama 3.1 Series: 128,000 Tokens 
  • Cohere Command-R+: 128,000 Tokens

Lalu bagaimana cara menentukan panjang jendela konteks yang paling sesuai dengan anda? 

Jika anda memerlukan AI untuk memproses dokumen dan menganalisis dokumen di bawah 50.000 kata, model 128K token sudah cukup. Untuk konten sepanjang buku atau beberapa dokumen secara bersamaan, pertimbangkan model 1M+ token. Peninjauan dokumen hukum dan analisis kontrak biasanya berada dalam kisaran 200K-400K. 

Kemudian, jika anda memerlukan chatbot layanan pelanggan biasanya membutuhkan 32K hingga 128K token untuk riwayat sesi. Aplikasi konsultasi atau bimbingan belajar yang kompleks, pilih 200K hingga 400K token untuk mempertahankan konteks percakapan yang lebih luas. Asisten virtual perusahaan yang menangani beberapa tugas yang saling terkait mungkin memerlukan 1M+ token. 

Jika anda adalah developer yang ingin menganalisis code, file individual cukup 32K hingga 128K token. Analisis repositori lengkap membutuhkan model 1M hingga 10M token untuk memproses seluruh basis kode. Tinjauan kode dan saran refactoring biasanya membutuhkan 200.000 hingga 400.000 token untuk mempertahankan konteks yang memadai. 

Jika anda adalah seorang analisis, penelitian satu makalah cukup dengan 128.000 hingga 200.000 token. Sintesis lintas makalah dan tinjauan literatur dapat menggunakan kapasitas token 1 juta+. Meta-analisis komprehensif dan tinjauan sistematis mungkin memerlukan konteks maksimum yang tersedia. 

3. Temperatur 

AI juga memiliki gaya merespon yang berbeda-beda, bisa eksploratif atau lebih fokus. Parameter (pengaturan angka) dalam AI yang mengatur seberapa “acak” atau “kreatif” jawaban yang dihasilkan ini disebut temparatur. 

Pengaturan suhu rendah (Low Temperature), berkisar 0.1 – 0.3, AI bermain aman. Hasilnya konsisten, akurat, dan sedikit membosankan. Seperti orang yang selalu mengirimkan template email yang sama.

Pengaturan suhu sedang (Medium Temperature) sekitar 0.5 – 0.7, AI merespon dengan akurasi & kreativitas yang seimbang. Jawabannya lebih variatif dibanding suhu rendah. 

Pengaturan suhu tinggi (High Temperature) 0.8 – 1.0+, AI mengambil risiko. Ia memilih kata-kata yang mengejutkan, alur yang tidak biasa, ide-ide menarik. Terkadang brilian. Tapi tidak selalu.

Aplikasi terkenal seperti ChatGPT tidak memungkinkan kita untuk mengubah pengaturan ini secara langsung. Pengaturan bawaannya adalah suhu sedang. Tetapi jika menggunakan API AI atau alat pengembang, suhu dapat diatur sesuai kebutuhan. 

4. Halusinasi (Hallucination)

Istilah ini mungkin sering kita dengar, namun tidak semua orang tahu mengapa ini terjadi. 

Halusinasi AI adalah sebuah kondisi dimana jawaban yang dihasilkan AI seolah-olah BENAR padahal tidak akurat, mengada-ada atau sebatas karangan saja. Parahnya, jawaban karangan AI ini disajikan dengan percaya diri tanpa keraguan.

Kenapa ini bisa terjadi? 

Perlu diketahui, model bahasa AI bukan berbasis database. AI hanya belajar dari data. Kalau datanya kurang atau tidak ada? Alih-alih AI  menjawab dengan kalimat “saya tidak tahu”, AI justru akan membaca prediksi pola dan menghasilkan jawaban yang “seolah-olah” benar dan akurat. Sayangnya, pengguna AI cenderung mempercayainya sebagai jawaban valid dari sebuah pertanyaan yang mereka tanyakan. Ini berbahaya.

Pelajaran yang bisa diambil adalah jangan pernah mempercayai AI secara mentah mentah untuk sebuah jawaban fakta, statistik, nasihat medis, informasi hukum, atau apa pun. Gunakan sebagai titik awal, kemudian verifikasi melalui data-data dan sumber tambahan.

Setelah mengetahui tentang halusinasi AI, jangan takut atau berhenti menggunakan AI. Jadikan ini sebagai pengetahuan agar dapat menggunakan AI secara cerdas. 

5. RAG (Retrieval-Augmented Generation)

Kalau AI bisa halusinasi karena kekurangan data, RAG justru mengambil data tamabhan untuk mengurangi halusinasi.  

Model AI biasa dilatih pada data hingga tanggal tertentu. Model ini tidak tahu apa pun tentang dokumen internal perusahaan Anda. Model ini tidak tahu apa pun tentang proyek perusahaan anda minggu lalu. Model ini tidak tahu apa pun tentang PDF yang Anda unggah.

Jadi, bagaimana produk seperti “Mengobrol dengan PDF Anda” atau “Ajukan pertanyaan tentang dokumen ini” sebenarnya bekerja?

Inilah RAG.

Saat Anda mengunggah dokumen, sistem tidak memasukkan seluruh dokumen ke dalam otak AI. Sebaliknya, sistem memecah dokumen menjadi beberapa bagian dan menyimpannya dalam jenis basis data khusus yang disebut basis data vektor yang memahami makna, bukan hanya kata kunci. Kemudian, ketika Anda mengajukan pertanyaan, sistem pertama-tama mencari basis data ini untuk bagian-bagian yang paling relevan. Sistem kemudian mengambil bagian-bagian tersebut. Kemudian, sistem akan memasukkan informasi tersebut ke AI bersama dengan pertanyaan Anda, dengan mengatakan: “Berikut beberapa konteks yang relevan. Sekarang jawab pertanyaan menggunakan ini.”

Selesai. Mengambil informasi yang relevan. Memasukkannya ke AI. Menghasilkan jawaban. RAG.

Mengapa ini penting?

Karena ini adalah tulang punggung hampir setiap produk AI yang bermanfaat yang dibangun dalam dua tahun terakhir. Ini menjadi potensi dalam membangun Bot dukungan pelanggan yang mengetahui kebijakan perusahaan Anda. Asisten AI yang dapat menjawab pertanyaan dari dokumen hukum Anda. Alat yang meringkas makalah penelitian. Semuanya dibangun di atas RAG.

Intinya, RAG membiarkan AI menjadi lebih pintar dengan membiarkannya mencari informasi tambahan dulu sebelum menjawab. Sehingga tidak “asal” menjawab. 

Setelah memahami lima ketentuan dalam penggunaan AI, Anda sudah selangkah lebih maju dari kebanyakan orang—bukan hanya sebagai pengguna, tapi sebagai individu yang lebih sadar akan potensi dan risikonya. Gunakan AI dengan bijak, eksplor dengan kritis, dan jangan ragu untuk membagikan insight ini ke orang-orang di sekitar Anda. 

 

 

Referensi: 

  • Blue Prism. (2024). AI Terminology 101: Key AI Terms That You Should Know. Diakses dari: https://www.blueprism.com/resources/blog/ai-terminology-ai-terms/  
  • Towards AI. (2026). If You Understand These 5 AI Terms, You’re Ahead of 90% of People. Diakses dari: https://pub.towardsai.net/if-you-understand-these-5-ai-terms-youre-ahead-of-90-of-people-c7622d353319  
  • IBM. (n.d.). What is LLM Temperature? Diakses dari: https://www.ibm.com/think/topics/llm-temperature