En ny videnskabelig ramme lover at gøre det lettere at forstå, hvad store sprogmodeller faktisk gør – og dermed at styre dem mere præcist. Forskere bag artiklen Mechanistic Tomography beskriver en metode, der samler eksisterende teknikker som patching, gradienter og interventionsanalyser under én fælles struktur. I stedet for at gætte på modellens indre tilstande, måler man dem direkte gennem designede eksperimenter – lidt som en CT-scanner for AI.
For beslutningstagere er pointen ikke den tekniske detalje, men konsekvensen: Jo bedre vi kan måle, hvad en model repræsenterer og reagerer på, jo bedre kan vi forudsige og kontrollere dens adfærd. Det er afgørende, når modeller skal bruges i regulerede eller risikofyldte sammenhænge, hvor man ikke bare kan stole på output, men skal kunne forklare og styre det.
Artiklen viser konkrete resultater på to kendte modeller: På GPT-2-small identificerer metoden en bestemt interaktion mellem to interne komponenter som den største forudsigende faktor for output – et fund, der ikke fanges af simplere analyser. På Qwen-2.5-7B viser den, at en simpel additiv model er tilstrækkelig til at beskrive modellens afvisningsadfærd, hvilket betyder, at man kan nøjes med mindre komplekse målinger end først antaget.
Det praktiske budskab er klart: Man behøver ikke altid at investere i de dyreste og mest komplekse analyser. Metoden foreslår at starte med de billigste målinger, teste dem på nye data, og kun udvide kompleksiteten, hvis der er tegn på, at noget mangler. Det er en tilgang, der kan oversættes direkte til budget- og tidsplanlægning i AI-projekter.
