Fastino har udgivet GLiNER2.5, en ny arkitektur til informationsudtræk, der erstatter den traditionelle span-enumeration med direkte grænseforudsigelse. Det betyder, at bredden af en enhed – fx et navn eller en dato – ikke længere koster ekstra beregning. For virksomheder, der behandler store mængder dokumenter, kan det reducere både latens og omkostninger markant. Læs den officielle meddelelse.

Modellen leveres i tre størrelser – 74M, 194M og 287M parametre – alle under Apache 2.0-licens og kørbare på en almindelig CPU. Det gør teknologien tilgængelig for organisationer, der ikke har adgang til store GPU-klynger, og som ønsker at holde data internt af hensyn til sikkerhed eller compliance. Se modelkortet og benchmarks.

GLiNER2.5 tilføjer også joint entity-relation decoding, hvilket betyder, at modellen kan udtrække både enheder og deres indbyrdes relationer i samme trin – en funktion, der er relevant for alt fra kontraktanalyse til forskningsdatabaser. Desuden understøtter den constrained classification og span attributes, hvilket giver udviklere mulighed for at styre outputtet mere præcist. Kontekstvinduet er udvidet til 4.096 ord, så modellen kan håndtere længere dokumenter uden at miste overblikket. Se den tekniske beskrivelse.

På tværs af 16 zero-shot benchmarks opnår GLiNER2.5 en samlet makro-F1 på 56,17. Det er et solidt resultat, men det vigtigste for beslutningstagere er ikke benchmark-tal i sig selv – det er, at arkitekturen fjerner en fundamental beregningsflaskehals. For virksomheder, der bygger interne AI-løsninger til dokumentbehandling, betyder det, at man kan få hurtigere og billigere ekstraktion uden at gå på kompromis med nøjagtigheden.

Strategisk set peger udgivelsen på en bredere tendens: AI-modeller bliver ikke kun større, men også mere effektive i deres grundlæggende design. For dem, der skal vælge mellem cloud-baserede API'er og on-premise-løsninger, er CPU-kørbarhed og åben licens afgørende faktorer. GLiNER2.5 giver organisationer mulighed for at behandle følsomme data lokalt, hvilket kan være afgørende i regulerede brancher som finans, sundhed og jura.