Dialekt-taxen er kodet ind i alle led af sprogmodeller – ikke kun ét

Sprogmodeller behandler dialektale tekster systematisk dårligere end standardamerikansk engelsk – og den skævhed er ikke begrænset til ét led i processen. Det viser en ny undersøgelse fra arXiv, der har fulgt den såkaldte "dialekt-tax" gennem hele sprogmodel-pipelinen: tokenisering, præ-træning, efter-træning og inferens. Resultatet er, at modellerne konsekvent koder dialektale tekster ulige, selv når de er semantisk identiske med standardtekster.

Undersøgelsen er bemærkelsesværdig, fordi den viser, at problemet ikke kan løses ved at skifte tokenizer. Selv når forskerne omgik den traditionelle subword-segmentering med en tegnbaseret tokenizer, forsvandt hverken input- eller output-asymmetrierne eller de dialektale præstationsgab. Det betyder, at skævheden er dybere forankret end i de tekniske detaljer i tokeniseringen.

Under præ-træningen fandt forskerne, at dialektale par inducerer mere divergerende gradientopdateringer end par af helt urelaterede standardamerikanske dokumenter. Med andre ord: Modellerne har sværere ved at lære fra semantisk ækvivalent dialektalt indhold end fra helt urelaterede standardtekster. Det er et stærkt signal om, at skævheden er indlejret i selve læringsprocessen.

I efter-træningen viste belønningsmodellerne kontekstuelle og ustabile dialektpræferencer: De tildelte højere værdier til isolerede AAVE-eksklusive tokens end til SAE-eksklusive tokens, mens fulde ræsonneringskontekster fik opgave- og modelafhængige dialektstraffe. Det betyder, at selv når modellen tilsyneladende favoriserer dialektale elementer i isolation, straffer den dem i faktiske kontekster – hvilket gør resultaterne uforudsigelige.

For beslutningstagere er implikationen klar: Hvis man bygger produkter, der skal betjene forskellige sproglige grupper – fx stemmeassistenter, kundesupport eller indholdsmoderering – vil modellerne systematisk underpræstere for dialektale brugere. Det er ikke et kosmetisk problem, men et spørgsmål om fairness og produktkvalitet. Virksomheder, der investerer i sprogmodel-teknologi, bør derfor kræve dokumentation for, hvordan modeller håndterer dialektal variation – ikke kun standardiserede benchmarks.