En ny undersøgelse fra arXiv viser, at selv avancerede AI-modeller kan fremstå sunde under standardmålinger, mens de i virkeligheden har lært intet brugbart. Forskerne bag Graph-JEPA-studiet testede en model på et videnskabeligt netværk af 57.903 artikler og fandt, at modellen opnåede imponerende lineær-probe-nøjagtighed (0,871) og effektiv rang (18-47), men når den skulle hente faktisk information, scorede den ikke bedre end tilfældighed (MRR 1,9e-4 mod 1,99e-4, p=0,98). Med andre ord: modellen så ud til at have lært, men kunne ikke bruge sin viden til noget.
Problemet ligger i, hvordan modellen fordeler sin 'opmærksomhed'. De frosne input placerer 86,05% af variansen på subgraf-identitet og kun 0,40% på aspekt-identitet, mens de trænede latente repræsentationer gør det modsatte. Dette er ikke en tilfældig fejl, men et fundamentalt træk ved modellens optimeringsmål: den degenererede løsning er et globalt minimum, til stede allerede ved initialisering. Forskerne reparerede problemet og opnåede 14,377 bits ud af 14,379 mulige, men påpeger, at dette ikke siger noget om modellens ræsonnement-evne — målet er reducerbart, og selv en 'orakel'-model når kun 96,4% af loftet.
For beslutningstagere er dette en kritisk påmindelse: standardmålinger som lineær probe og effektiv rang kan være misvisende. Hvis en model ikke kan hente information, den har 'lært', er den ubrugelig i praksis, uanset hvor godt den klarer sig i benchmarks. Virksomheder, der overvejer at implementere AI-systemer, bør derfor kræve mere end blot tekniske målinger — de bør teste modellen på reelle opgaver og verificere, at den faktisk kan anvende sin viden. Forskningen understreger også, at data-kvalitet er afgørende: 25,96% af noderne i datasættet var duplikerede pladsholdere, hvilket yderligere svækker modellens læring.
