Pokee AI har udgivet Pokee-Isaac 28B, en tekstbaseret foundation model med et 10M-token kontekstvindue, der er bygget til at køre inde i kundens egen infrastruktur – ikke i cloud. Modellen opnår 93,3% på RULER-benchmarken ved 10M tokens, hvor alle sammenlignelige baseline-modeller falder til 0,0 ud over 2M tokens. Den fører også BFCL v4 med 70,94 og placerer sig som nummer to på Terminal-Bench 2.1. Se de tekniske detaljer hos MarkTechPost.
For beslutningstagere er det centrale ikke kun tallene, men distributionsmodellen: Vægtene offentliggøres ikke. I stedet licenseres modellen til brug i VPC, on-premises eller på enheden, med listepriser på $0,15/$1,00 per million tokens. Det betyder, at virksomheder kan få en model med ekstrem kontekst uden at sende data til en ekstern udbyder – et kritisk krav i regulerede brancher som finans, sundhed og offentlig sektor.
Ydeevnen er også bemærkelsesværdig: Prefill når 137.200 tokens/sekund ved fuld kontekst på en enkelt B200, med decode fladt omkring 335 tokens/sekund. Det gør modellen praktisk anvendelig til agentiske workflows, hvor lange dokumenter eller store kodebaser skal behandles i ét gennemløb. Læs hele annonceringen for fulde benchmarks og sammenligninger.
Strategisk set signalerer udgivelsen, at konkurrencen om ekstreme kontekstvinduer intensiveres – og at privat drift bliver et salgsargument i sig selv. For virksomheder, der overvejer at bygge agenter eller RAG-systemer på store vidensbaser, er spørgsmålet ikke længere kun, hvor meget kontekst en model kan håndtere, men hvor dataene fysisk ligger. Pokee-Isaac 28B adresserer begge dele, men til en pris: lukket licens og ingen open-source-fællesskab.
