Umělá inteligence (AI), včetně chatbotů jako Siri a Alexa, jsou stále schopnější provádět složité úkoly. Někdy však přinášejí výsledky, které jsou jasně nepravdivé – jev, který se často nazývá „halucinace“. To znamená, že AI s jistotou prezentuje informace jako fakt, i když nejsou založeny na skutečnosti.
Problém skutečné přesnosti
Halucinace AI nejsou jen chyby; to je základní rys mnoha moderních systémů. Velké jazykové modely (LLM) jsou trénovány tak, aby předpovídaly další slovo v sekvenci, spíše než aby nutně testovaly pravdu. Výsledkem je, že LLM může s jistotou vymýšlet detaily, vymýšlet zdroje nebo zkreslovat informace, pokud to pomůže učinit závěr koherentnějším.
To se liší od psychózy nebo schizofrenie, lidských stavů, kdy člověk ztrácí kontakt s realitou. Halucinace umělé inteligence jsou závadou mechanického zpracování, nikoli krizí duševního zdraví. Efekt je však podobný: stroj prezentuje lež jako pravdu.
Proč je to důležité?
Šíření umělé inteligence v kritických oblastech – jako je zdravotnictví, finance a právní výzkum – činí halucinace nebezpečnými. Představte si lékařského chatbota s umělou inteligencí, který provádí špatnou diagnózu nebo finanční umělou inteligenci, která doporučuje podvodnou investici. Problém není jen v nepohodlí; je v potenciální újmě.
Kontext je zde klíčový. LLM špatně chápou nuance a často nedokážou odlišit zavedené znalosti od spekulativních tvrzení. Dokážou přesvědčivě diskutovat o exoplanetách nebo sluneční soustavě s fiktivními detaily, takže je pro uživatele obtížné rozeznat skutečnost od fikce.
Role informatiky a psychologie
Výzkumníci v počítačové vědě pracují na řešeních, včetně posílení učení založeného na lidské zpětné vazbě a metod pro propojení reakcí umělé inteligence s testovatelnými daty. Je zde však hlubší problém. Naše porozumění lidské inteligenci, studované v psychologii, může být nezbytné k vytvoření skutečně spolehlivé umělé inteligence. Stroje se učí z dat, ale chybí jim zdravý rozum, který lidé považují za samozřejmost.
Velký obrázek
Halucinace umělé inteligence zdůrazňují zásadní rozpor: požadujeme od umělé inteligence „inteligenci“ a zároveň očekáváme, že bude bezchybně přesná. Realita je taková, že AI je mocný nástroj, ale není dokonalý. Dokud systémy AI nedokážou spolehlivě rozlišit, co je skutečné od toho, co není, měli by uživatelé ke svým výsledkům přistupovat skepticky.
Dlouhodobé důsledky halucinací umělé inteligence jsou významné: pokud se neřeší, podkopávají důvěru v technologii a vytvářejí nové příležitosti pro dezinformace.
