En ny forskningsmetode fra Hugging Face adresserer et af de største problemer ved at sætte AI-agenter i arbejde: at vide, hvornår man kan stole på dem. Metoden, kaldet RUPA (Relational Uncertainty Propagation for Agents), sporer usikkerhed gennem hele en agents udførelse af en opgave – ikke kun på det endelige svar. Det gør den i stand til at opdage fejl, der opstår flere skridt tidligere i forløbet, hvilket er afgørende for virksomheder, der bruger agenter til komplekse opgaver med mange interaktioner.
Traditionelle metoder til at måle usikkerhed hos sprogmodeller kigger på lokale signaler som token-sandsynligheder eller konfidens for hvert enkelt skridt. Men de overser, hvordan fejl akkumulerer over tid – en fejl i et tidligt skridt kan først blive synlig langt senere. RUPA løser dette ved at modellere hele udførelseshistorien som en graf, hvor ræsonnement, værktøjsinteraktioner og feedback fra miljøet er forbundet. Usikkerheden spredes gennem denne graf, så risikoen ved hvert skridt afspejler hele kæden af afhængigheder.
Forskerne testede RUPA på tre benchmarks – τ-2, Terminal-Bench-2 og GAIA – med seks forskellige open-source sprogmodeller. Resultaterne viser, at RUPA konsekvent giver mere præcise usikkerhedsestimater end eksisterende metoder, opdager fejl tidligere og forbedrer agenternes evne til at navigere usikre situationer. Det er ikke bare en akademisk øvelse: For en beslutningstager betyder det, at man kan implementere agenter med større tillid, fordi systemet selv kan flagge, når noget er galt – før det koster tid, penge eller kunder.
Den praktiske konsekvens er dobbelt. For det første kan virksomheder bruge RUPA til at bygge mere robuste agent-løsninger, hvor fejl opdages tidligt og korrigeres automatisk. For det andet åbner det for at bruge agenter i højrisiko-opgaver, hvor pålidelighed hidtil har været en blocker. Metoden er open source og bygger på eksisterende sprogmodeller, så den kan implementeres uden at vente på nye, proprietære systemer.
