Sistem kecerdasan buatan (AI), termasuk chatbots seperti Siri dan Alexa, semakin mampu melakukan tugas-tugas kompleks. Namun, kadang-kadang mereka menghasilkan keluaran yang terbukti salah – sebuah fenomena yang sering disebut “halusinasi.” Artinya AI dengan percaya diri menyajikan informasi sebagai fakta padahal tidak berdasarkan kenyataan.
Masalah Keakuratan Faktual
Halusinasi AI bukan hanya kesalahan; hal ini sangat penting dalam menentukan seberapa banyak sistem yang ada saat ini dapat berfungsi. Model bahasa besar (LLM) dilatih untuk memprediksi kata berikutnya secara berurutan, belum tentu untuk memverifikasi kebenarannya. Akibatnya, LLM mungkin dengan percaya diri mengarang detail, menciptakan sumber, atau salah menyajikan informasi jika hal itu membantu keluarannya terdengar lebih koheren.
Hal ini berbeda dengan psikosis atau skizofrenia, kondisi manusia di mana seseorang kehilangan kontak dengan kenyataan. Halusinasi AI adalah kegagalan mekanis dalam pemrosesan data, bukan krisis kesehatan mental. Namun efeknya serupa: mesin tersebut menampilkan kepalsuan sebagai kebenaran.
Mengapa Ini Penting?
Munculnya AI dalam aplikasi penting—seperti layanan kesehatan, keuangan, dan penelitian hukum—membuat halusinasi menjadi berbahaya. Bayangkan chatbot medis bertenaga AI salah mendiagnosis suatu kondisi atau AI finansial merekomendasikan investasi palsu. Masalahnya bukan hanya ketidaknyamanan; itu potensi bahaya.
Konteks adalah kuncinya di sini. LLM berjuang dengan nuansa dan seringkali tidak memiliki kemampuan untuk membedakan antara pengetahuan yang sudah ada dan klaim spekulatif. Mereka dapat dengan meyakinkan mendiskusikan planet ekstrasurya atau tata surya dengan detail yang dibuat-buat, sehingga menyulitkan pengguna untuk membedakan kebenaran dari fiksi.
Peran Ilmu Komputer dan Psikologi
Para peneliti di ilmu komputer sedang mencari solusi, termasuk pembelajaran penguatan dengan masukan manusia dan metode untuk mendasarkan respons AI pada data yang dapat diverifikasi. Namun, ada masalah yang lebih dalam. Pemahaman kita tentang kecerdasan manusia, seperti yang dipelajari dalam psikologi, mungkin diperlukan untuk membangun AI yang benar-benar andal. Mesin belajar dari data, namun mereka tidak memiliki pemikiran yang masuk akal seperti yang dianggap remeh oleh manusia.
Gambaran Lebih Besar
Halusinasi AI menyoroti ketegangan mendasar: kami menuntut AI menjadi “cerdas” sekaligus mengharapkannya beroperasi dengan akurasi sempurna. Kenyataan saat ini adalah bahwa AI adalah alat yang ampuh namun belum sempurna. Sampai sistem AI dapat dengan andal membedakan mana yang nyata dan mana yang tidak, pengguna harus mendekati keluaran mereka dengan skeptis.
Implikasi jangka panjang dari halusinasi AI sangatlah signifikan: jika tidak ditangani, halusinasi tersebut akan mengikis kepercayaan terhadap teknologi dan menciptakan peluang baru untuk misinformasi.
