Hallucináció

Az AI logikailag helyesnek tűnő, de a valósággal ütköző választ ad — jogi perektől (“nincs ilyen jogeset”) a hétköznapi abszurditásokig (“ragasztós pizza”).

Miért hiszünk el mégis szinte mindent? A Szauer–Páli–Ficsór-adás vendégei szerint emberi gyengeségből: a magabiztosan előadott, kész információt kényelmes elfogadni. Pedig a ChatGPT és a Claude ma már felsorolja a forrásait, elég lenne rákattintani. Aki ellenőrzés nélkül másolja tovább a választ egy e-mailbe, a saját szakmai hírnevét kockáztatja. „Legyünk lusták máshol”, például automatizáljuk az ismétlődő feladatokat!

Mozsgai József azt látja, hogy a kisebb gazdaságok az ingyenes, általános modellektől kérnek tanácsot, például egy takarmányreceptúra összeállításához. Itt bizony beüt a hallucináció: ha a modell nem egy szakmai adatbázisra épül, a válasza a gyakorlatban nem használható.

Bancsics Ferenc szerint ha nem fogalmazunk pontosan, az AI hajlamos magát a kérdést is kiegészíteni, és ebből születhet hallucináció. Klasszikus példa, amikor az Egyesült Államok első női elnökéről kérdezték, és a modell nevet is mondott. A műsorvezető által felidézett autómosós feladványra viszont, hogy 50 méterre van-e érdemes autóval menni, a vendégek tapasztalata szerint a modellek ma már jól válaszolnak.