Forskere har præsenteret en metode til at opdage misinformation, der ikke kræver ekstern videnindsamling eller finjustering af sprogmodellen. I stedet udnytter den, at sandhed tilsyneladende er en struktureret, lineært adskillelig egenskab i modellens interne repræsentationsrum – en slags geometrisk 'sandhedsretning', som kan projiceres frem for at klassificere nye påstande.
Metoden, kaldet LaFaCt, bygger på aktiveringsteknikker: Ved at sammenligne modellens aktiveringer fra par af sande og falske udsagn kan forskerne udlede en retning i modellens 'residual stream'. Når en ny påstand præsenteres, projiceres dens sidste token-aktivering på denne retning, og en simpel klassifikator afgør, om påstanden er sand eller falsk. Ifølge arXiv-papiret kræver metoden ingen ekstern evidenshentning og ingen opgavespecifik supervision ud over de kontrastive par, der bruges til at estimere retningen.
Evalueringen dækker 11 modeller fra Gemma-, Llama- og Qwen-familierne (fra 270M til 12B parametre) på tre benchmarks: AVeriTeC, LIAR og FACTors. Resultaterne viser, at 'falskhedsretningen' kan genfindes på tværs af modelstørrelser og arkitekturer, og at projektionen matcher eller overgår zero-shot og few-shot prompting på LIAR og FACTors – med størst gevinst for de mindre modeller. På AVeriTeC er resultaterne mere begrænsede, hvilket forskerne tilskriver benchmarkets evidensbaserede mærkningsskema. Koden er offentligt tilgængelig på GitHub.
For beslutningstagere betyder det, at der nu er en praktisk vej til at opdage misinformation uden tunge retrieval-pipelines. Metoden kan potentielt integreres i eksisterende systemer som et supplement til retrieval-baserede tilgange, især hvor hastighed og skalerbarhed er vigtigere end dybdegående evidensanalyse. Det er dog værd at bemærke, at metoden ikke løser problemet med evidenskrævende domæner – hvor påstande kræver ekstern verifikation – og at den endnu ikke er testet i produktionslignende scenarier.
