Flertrins-spørgsmål – hvor svaret kræver sammenkædning af flere informationer – er en svær opgave for AI-systemer, fordi de ofte drukner i støj fra lange kontekster. Det går ud over både hastighed og præcision. Nu præsenterer forskere en ny metode, IterCOMP, der angriber problemet uden at kræve træning af modellen.
IterCOMP arbejder i en iterativ komprimeringsløkke: Den opdeler dokumenter i evidens-segmenter, vurderer om spørgsmålet kan besvares, og genererer målrettede opfølgningsspørgsmål for at integrere den vigtigste evidens. Resultatet er et kompakt prompt, der er bygget op omkring ræsonneringskæden – ikke omkring alt det uvedkommende.
På tre velkendte benchmarks – MusiQue, 2WikiMultiHopQA og HotpotQA – viser IterCOMP markante forbedringer i Exact Match og F1-score, samtidig med at token-budgettet reduceres. Metoden klarer sig bedre end eksisterende baseline-metoder og er robust, selv når ræsonneringskompleksiteten stiger.
For virksomheder og beslutningstagere, der bygger RAG-baserede systemer, betyder det noget: Bedre præcision med færre tokens betyder lavere driftsomkostninger og hurtigere svar – uden at skulle genoptræne eller finjustere modeller. Det gør IterCOMP til et attraktivt valg for dem, der vil forbedre eksisterende systemer uden store investeringer.
