Forskere har præsenteret en ny teoretisk ramme, der kan beskrive, hvordan store sprogmodeller (LLM'er) ræsonnerer, når de bruger kæde-til-tanke (chain-of-thought) metoden. Dette er et skridt mod at forstå og optimere AI's beslutningsprocesser uden at forenkle arkitekturen eller bruge analogier til fysiske systemer.
Forskerne bag studiet på arXiv formulerer AI's ræsonnering som en guidet opdagelsesproces på en 'clue-graf' og udleder en matematisk ligning, der beskriver, hvordan andelen af opdagede spor udvikler sig. Eksperimentelt identificeres spor ved at måle, hvor overraskende ordene er for en 'student'-model, når den ser output fra en 'teacher'-model. Resultaterne viser, at de statistiske mønstre er reproducerbare inden for samme datasæt og kan forklares af den teoretiske ligning.
For beslutningstagere betyder dette, at vi måske kan få en dybere forståelse af, hvorfor AI-modeller træffer bestemte valg, og dermed bedre styre deres optimering. Det kan føre til mere pålidelige og effektive AI-systemer, hvilket er afgørende for virksomheder, der investerer i eller bygger på denne teknologi.
