
Karena pintar tidak berarti selalu benar.
Tahu Cara Kerja. Kalau kita tahu sedikit cara kerja Generative AI (GenAI), mungkin kita akan lebih maklum ketika mendapatkan jawaban yang keliru.
GenAI bekerja dengan konsep probabilitas dan data.
Bergantung pada Data. Ia dilatih menggunakan data dalam jumlah sangat besar, yang biasa disebut training data. Dari data tersebut, AI mempelajari pola, hubungan antarkata, konteks, hingga berbagai bentuk informasi. Ia mengidentifikasi bagaimana satu hal berhubungan dengan hal lainnya.
Probabilitas. GenAI pada dasarnya memprediksi rangkaian kata atau token berikutnya berdasarkan konteks yang tersedia. Mana yang paling mungkin muncul setelah kata atau rangkaian kata sebelumnya?
Apa itu token?
Token adalah potongan teks yang digunakan AI sebagai satuan pemrosesan. Bentuknya bisa berupa satu kata, bagian dari kata, angka, tanda baca, atau karakter tertentu. Jadi, satu kata bisa terdiri dari satu atau beberapa token. AI tidak selalu membaca dan menghasilkan teks berdasarkan kata utuh seperti yang kita pahami sehari-hari.
Ketika kita memberikan prompt, AI memproses instruksi tersebut, memperhitungkan konteks, lalu mulai menghasilkan jawaban sedikit demi sedikit. Setiap token yang dihasilkan menjadi bagian dari konteks untuk memprediksi token berikutnya.
Proses ini berlangsung sangat cepat.
Ada mekanisme tambahan yang membantu menjaga relevansi, konsistensi, dan kualitas jawaban. Namun, bukan berarti setiap AI selalu memeriksa seluruh jawabannya seperti manusia yang membaca ulang sebuah tulisan dari awal sampai akhir. Arsitektur dan mekanisme setiap model bisa berbeda.
Di balik kecepatan itu, ada komputasi yang luar biasa besar.
Inilah salah satu alasan mengapa kebutuhan data center berkembang pesat. Permintaan terhadap chip pemroses dan memory juga meningkat. Semakin besar model dan semakin kompleks prosesnya, semakin besar pula sumber daya komputasi yang dibutuhkan.
Lalu, di mana letak masalahnya?
Probabilitas bukanlah kebenaran.
Dia bisa halu. Sesuatu yang paling mungkin muncul belum tentu sesuatu yang benar. AI bisa menghasilkan kalimat yang sangat meyakinkan, tetapi informasi di dalamnya bisa saja keliru. Bahkan, ia bisa menyusun informasi yang terdengar masuk akal padahal tidak memiliki dasar yang kuat.
Inilah yang sering disebut hallucination.
Jadi, sehebat apa pun GenAI, tetap ada ruang untuk kesalahan. Bukan semata-mata karena AI kurang pintar, tetapi karena cara kerjanya memang tidak menjamin setiap hasil merupakan fakta yang benar.
Apakah berarti kita tidak boleh mempercayai AI? Gak gitu juga.
Gunakan AI untuk mempercepat pekerjaan, membantu berpikir, mencari alternatif, dan mengembangkan ide. Tetapi untuk hal-hal penting, tetap perlu ada proses pemeriksaan dan verifikasi.
Jangan menyerahkan seluruh penilaian kepada AI.
AI bisa membantu kita menghasilkan jawaban. Tetapi memastikan jawaban itu benar, tetap menjadi tanggung jawab kita.








