Manusia menciptakan kecerdasan buatan untuk membantu berpikir, tetapi manusia juga terkejut ketika mesin yang tampak pintar justru sering mengarang jawaban yang salah dengan sangat meyakinkan. Fenomena inilah yang disebut sebagai halusinasi pada model bahasa. Istilah ini tidak berarti mesin benar benar berhalusinasi seperti manusia, melainkan menghasilkan informasi yang kelihatannya masuk akal namun ternyata keliru. Riset terbaru pada tahun 2025 menjelaskan bahwa penyebab utama masalah ini bukan hanya soal data, tetapi juga cara manusia melatih dan menguji kecerdasan buatan itu sendiri.
Model bahasa besar atau large language model bekerja dengan cara mempelajari pola dari miliaran kalimat di internet. Mesin ini tidak memahami dunia seperti manusia memahami realitas. Ia hanya memprediksi kata berikutnya berdasarkan kemungkinan statistik tertinggi. Ketika seseorang bertanya sesuatu, model tidak memeriksa fakta seperti membuka buku atau basis data. Ia hanya menebak rangkaian kata yang paling mungkin muncul sebagai jawaban. Jika tebakan ini kebetulan salah, maka muncullah halusinasi.
Baca juga artikel tentang: Bahasa Rahasia Alam: Infrasound, Gelombang Suara yang Tak Bisa Kita Dengar
Masalah utama muncul karena sistem pelatihan saat ini justru mendorong mesin untuk selalu menjawab, bukan mengakui bahwa ia tidak tahu. Dalam banyak ujian kecerdasan buatan, model mendapat nilai bagus jika ia memberikan jawaban yang terlihat benar. Sebaliknya, model sering mendapat nilai buruk jika ia berkata tidak tahu, meskipun itu adalah jawaban yang jujur. Akibatnya, mesin belajar bahwa menebak lebih menguntungkan daripada diam. Di sinilah benih halusinasi tumbuh dengan subur.
Para peneliti membandingkan perilaku ini dengan kebiasaan siswa saat menghadapi ujian sulit. Ketika tidak tahu jawaban, sebagian siswa memilih menebak daripada mengosongkan lembar jawaban. Kadang tebakan itu benar, kadang salah. Namun karena sistem penilaian memberi peluang nilai lebih baik bagi yang mencoba menebak, kebiasaan ini terus terbentuk. Model bahasa belajar dengan cara yang sangat mirip.
Halusinasi juga muncul karena model tidak benar benar mampu membedakan fakta dan opini. Semua informasi di dalam pelatihan dianggap sebagai data dengan bobot tertentu. Mesin tidak punya kesadaran untuk mengatakan bahwa satu pernyataan telah terbukti secara ilmiah sementara pernyataan lain hanya dugaan. Ketika dua informasi yang saling bertentangan muncul dalam data, model bisa mencampurkannya menjadi jawaban baru yang terdengar masuk akal tetapi tidak pernah benar benar ada.
Selain itu, manusia sering salah paham terhadap kecerdasan buatan. Banyak orang mengira bahwa model bahasa berpikir seperti manusia. Padahal sistem ini hanya kalkulator statistik yang sangat canggih. Ia tidak memiliki pemahaman, intuisi, atau niat. Ia tidak tahu bahwa sebuah jawaban bisa membahayakan seseorang jika ternyata salah. Inilah mengapa halusinasi bisa sangat berisiko di bidang kesehatan, hukum, dan pendidikan.
Penelitian terbaru juga menyoroti bahwa metode evaluasi yang digunakan saat ini justru memperparah masalah. Banyak tolok ukur kecerdasan buatan menilai performa berdasarkan seberapa sering model menjawab dengan benar. Jarang sekali ada sistem yang memberi nilai tinggi ketika model dengan jujur menyatakan ketidakpastian. Akibatnya, pengembang tanpa sadar melatih mesin agar semakin pintar dalam menebak, bukan semakin bijak dalam mengakui batas kemampuannya.
Menariknya, para peneliti menemukan bahwa halusinasi bukanlah misteri teknis yang sulit dipahami. Ia merupakan konsekuensi alami dari sistem pembelajaran berbasis prediksi. Jika sebuah sistem hanya diminta untuk terus menebak tanpa diberi ruang untuk ragu, maka kesalahan yang tampak meyakinkan pasti akan muncul. Dalam sudut pandang ini, halusinasi bukanlah bug semata, melainkan hasil dari desain yang kurang seimbang.
Lalu bagaimana cara mengurangi halusinasi pada kecerdasan buatan. Para ilmuwan menawarkan pendekatan yang bersifat sosial dan teknis sekaligus. Salah satu langkah penting ialah mengubah cara penilaian dalam uji kecerdasan buatan. Sistem evaluasi perlu memberi penghargaan pada jawaban yang jujur mengakui ketidaktahuan. Jika mesin belajar bahwa mengatakan belum tahu itu dihargai, maka kecenderungan untuk mengarang jawaban akan menurun.
Selain itu, para peneliti menyarankan agar manusia tidak hanya mengandalkan satu jenis tolok ukur dalam menilai kecerdasan buatan. Evaluasi harus mencakup kejujuran, konsistensi, dan kemampuan untuk menolak menjawab pertanyaan yang tidak memiliki basis data yang kuat. Dengan demikian, kecerdasan buatan tidak lagi hanya dikejar untuk terlihat pintar, tetapi juga bertanggung jawab.
Di sisi pengguna, literasi digital memegang peran yang sangat penting. Masyarakat perlu memahami bahwa jawaban dari kecerdasan buatan bukanlah kebenaran mutlak. Setiap informasi tetap harus diperiksa kembali, terutama jika menyangkut keputusan penting. Model bahasa dapat menjadi alat bantu berpikir, tetapi manusia tetap harus menjadi penentu akhir dari apa yang dianggap benar dan aman.
Fenomena halusinasi juga mengajarkan pelajaran penting tentang hubungan antara manusia dan teknologi. Mesin belajar dari cara manusia merancang aturan dan tujuan. Jika manusia mengutamakan kecepatan, ketepatan semu, dan jawaban instan, maka mesin akan mengikuti pola itu. Namun jika manusia memberi ruang bagi keraguan, kehati hatian, dan verifikasi, maka teknologi pun akan berkembang ke arah yang lebih sehat.
Ke depan, para ilmuwan optimis bahwa masalah halusinasi bisa dikurangi secara bertahap. Perbaikan arsitektur model, peningkatan kualitas data, serta perubahan sistem evaluasi akan membantu menciptakan kecerdasan buatan yang lebih dapat dipercaya. Namun tidak ada solusi tunggal yang bisa menghilangkan masalah ini dalam sekejap. Prosesnya memerlukan kolaborasi antara peneliti, pengembang, pembuat kebijakan, dan pengguna.
Pada akhirnya, halusinasi pada kecerdasan buatan bukan hanya persoalan teknis, tetapi juga cermin dari cara manusia memahami pengetahuan, kebenaran, dan ketidakpastian. Mesin meniru kebiasaan manusia dalam menebak ketika ragu. Jika manusia ingin teknologi yang lebih jujur, maka manusia juga perlu belajar untuk menghargai ketidaktahuan sebagai bagian alami dari proses belajar.
Teknologi terus berkembang dengan sangat cepat, tetapi kebijaksanaan dalam menggunakannya harus tumbuh dengan kecepatan yang sama. Kecerdasan buatan mampu membantu manusia menulis, menerjemahkan, merangkum, dan menganalisis informasi dalam skala besar. Namun tanggung jawab atas kebenaran tetap berada di tangan manusia. Dengan pemahaman yang lebih baik tentang mengapa halusinasi muncul, masyarakat dapat menggunakan teknologi ini dengan lebih kritis, aman, dan bijak.
Baca juga artikel tentang: Bahasa Kimia Lumut Purba: Bagaimana Tanaman Mengatur Stresnya
REFERENSI:
Kalai, Adam Tauman dkk. 2025. Why language models hallucinate. arXiv preprint arXiv:2509.04664.
