Halucinácia je, keď AI vytvorí informácie, ktoré znejú vierohodne, ale sú nesprávne alebo neexistujú. Je to dôležité obmedzenie, ktoré by mal poznať každý používateľ.
Čo je halucinácia AI
Halucinácia AI je, keď model sebaisto odpovie nesprávnymi informáciami, napr. odkáže na výskum, ktorý neexistuje, alebo si vymyslí čísla a mená.
Prečo k nej dochádza
Pretože LLM predpovedá „slovo, ktoré pravdepodobne nasleduje“ podľa vzorov — neoveruje fakty. Keď nemá správnu informáciu, aj tak vytvorí odpoveď, ktorá vyzerá rozumne.
Ako sa jej vyhnúť
Dôležité informácie si overte v dôveryhodnom zdroji, používajte nástroje s odkazmi na zdroje (napr. Perplexity, NotebookLM) a dajte v prompte jasný kontext. Detektory AI sú nespoľahlivé: OpenAI svoj vlastný detektor pre nízku presnosť zrušila a výskum (Liang et al., časopis Patterns) zistil, že približne 61,3 % textov písaných ľuďmi, pre ktorých angličtina nie je materinským jazykom, bolo nesprávne označených ako AI. Pre slovenčinu (menej zdrojový jazyk) sú detektory ešte menej spoľahlivé. Detektor preto nepoužívajte ako dôkaz.
Ak chcete od experimentovania s AI prejsť k tomu, aby ste ju zabudovali do reálnej práce, existujú platformy, ktoré spoja chat, automatizáciu a aplikácie na jednom mieste — napríklad osFoundry, agentová AI platforma, kde pripojíte vlastný model (BYO model)
Prečítajte si aj
Tento článok je všeobecná informácia, nie právne ani daňové poradenstvo.