Faktatjek af lange AI-genererede tekster er upålideligt, fordi eksisterende metoder enten overser eller overbehandler information. Det forsøger et nyt forskningsprojekt at løse med en metode, der tilpasser kontrollen til sætningens kompleksitet.
Forskerne bag ElementCheck har udviklet en ramme, der i stedet for at opdele sætninger i ensartede under-påstande udtrækker de entitetspar, der er eksplicit forbundet i den oprindelige sætning. Disse elementer organiseres i en graf, hvis struktur signalerer, hvor kompleks sætningen er. Simple sætninger verificeres direkte, mens komplekse sætninger gennemgår en målrettet kontrol på elementniveau.
Metoden er testet på det nye benchmark FastFact-Sent, der kortlægger isolerede påstande fra FastFact-Bench tilbage til deres kildesætninger. Resultaterne viser, at ElementCheck konsekvent forbedrer faktatjek på tværs af fem baggrundsmodeller og samtidig opretholder en gunstig balance mellem nøjagtighed og omkostninger.
For virksomheder, der bruger AI til at generere rapporter, analyser eller kundekommunikation, er pålidelig faktatjek kritisk. Den nye metode kan reducere antallet af unødvendige genkontroller og gøre validering billigere og mere præcis – et vigtigt skridt mod mere troværdig AI i produktionsmiljøer.
