En ny teoretisk ramme fra arXiv foreslår at betragte AI-hallucination som et strukturelt fænomen, der kan analyseres matematisk – ikke blot som en tilfældig fejl. Forskerne bag papiret introducerer begrebet 'determinisering' i strukturteorier: en situation, hvor en model når frem til én unik, konsistent fortolkning af et problem. Når dette ikke er muligt, opstår der 'pluralitet' – og det er her, hallucinationer kan opstå.
For beslutningstagere, der overvejer at implementere AI i kritiske processer, er pointen ikke kun teknisk. Rammen giver et sprog til at vurdere, hvornår en model kan stole på – og hvornår den i sagens natur er i en 'ikke-deterministisk' tilstand. Forfatterne skelner mellem to typer af ikke-determinisme: 'epistemisk pluralitet' (Type E), hvor flere fortolkninger er lige gyldige, og 'strukturel pluralitet' (Type S), hvor der slet ikke findes nogen fælles overbygning. Sidstnævnte er særligt problematisk, fordi der ikke er nogen objektiv måde at vælge mellem konklusionerne på.
Det interessante er, at forskerne viser, at for Type E-teorier kan 'lukningsstabilisering' opnås – modellen konvergerer mod et stabilt svar, hvis man giver den nok tid. Men fuld determinisering kræver en 'global konfluens-egenskab', som forbliver et åbent problem. For Type S-strong-teorier – hvor der mangler fælles øvre grænser – opnås determinisering kun gennem en 'kanonisk selektionsmekanisme', hvilket i praksis betyder, at modellen foretager et valg, der ikke er tvunget af data.
For virksomheder, der bygger på sprogmodeller, er implikationen klar: Hvis man ikke kan garantere, at ens anvendelse falder ind under Type E, skal man designe systemer, der eksplicit håndterer pluralitet – for eksempel ved at kræve flere uafhængige kørsler eller menneskelig validering. Papiret giver også en kobling til LLM-assisteret ræsonnement, hvor hallucination beskrives som 'usupporteret kanonisering' – det vil sige, at modellen præsenterer et svar, som om det var entydigt, selvom det ikke er det.
Selvom papiret er teoretisk, er det et skridt mod at gøre AI-adfærd mere forudsigelig. For dem, der skal købe eller bygge AI-løsninger, er det værd at følge med i, hvordan denne form for formalisering kan føre til bedre værktøjer til at vurdere pålidelighed – og måske til nye standarder for, hvornår en model kan certificeres som 'deterministisk nok'.
