I dokumentretrieval – søgning i store dokumentmængder – har virksomheder hidtil måttet vælge mellem hurtige men upræcise systemer og præcise men langsomme. Et nyt forskningsbidrag, RetrievalRouter, viser, at dette kompromis ikke er nødvendigt: Ved at lade en letvægts-router beslutte, hvilken søgepipeline der passer til hver enkelt forespørgsel, kan man opnå både højere præcision og markant lavere latenstid.
Metoden, beskrevet i et paper på Hugging Face, bygger på en central observation: Ikke alle forespørgsler kræver samme pipeline. På tværs af benchmarks inden for finans og videnskab findes der ingen statisk pipeline, der dominerer. RetrievalRouter lærer fra selve forespørgselsteksten, hvilken kombination af modalitet (tekst eller multimodal) og arkitektur (dense eller late-interaction) der giver bedst resultat. En enkelt justerbar parameter eksponerer hele grænsefladen mellem præcision og hastighed, så organisationer kan vælge det driftsniveau, der passer til deres behov.
Resultaterne er markante: Sammenlignet med den bedste statiske baseline er RetrievalRouter 2,5 % mere præcis og 12,4 gange hurtigere. Sammenlignet med tidligere adaptive strategivalgsmetoder opnår den signifikant højere nDCG@5 i præcisionsorienterede indstillinger og matcher eller overgår dem på både nDCG@5 og latenstid i latenstidsorienterede indstillinger. Koden og data er offentligt tilgængelige.
For beslutningstagere i finans, sundhed og jura – hvor retrieval understøtter højrisiko informationsadgang – betyder dette, at man ikke længere behøver at vælge mellem at gå glip af vigtig dokumentation eller at have uacceptabelt langsomme systemer. I stedet kan man implementere en query-adaptiv tilgang, der automatisk finder den rette balance per forespørgsel. Det kan reducere driftsomkostninger og forbedre svarpræcision i systemer, der i dag er begrænset af statiske pipelines.
