Et centralt problem med store sprogmodeller er, at de ofte producerer ensartede svar – en mangel på diversitet, som hidtil er blevet tilskrevet finjusteringen (alignment). Ny forskning fra arXiv udfordrer denne antagelse og viser, at homogeniteten sandsynligvis opstår allerede under prætræningen, og at finjusteringen blot afslører eller forstærker den.
Forskerne fandt, at semantisk konvergens – hvor modeller begynder at producere ensartede svar – kan observeres allerede i den første finjusteringsfase (SFT). Men kontrollerede eksperimenter viser, at SFT-data kan afsløre og forstærke konvergensen, ikke introducere den. Det understøtter, at finjusteringen fungerer som en katalysator snarere end en årsag.
Endnu vigtigere: Forskerne målte konvergens i basis-modeller og fandt, at instruktionslignende sammenbrud kan fremkaldes alene gennem prompting, selv uden finjustering. Det tyder på, at homogeniteten er et grundlæggende træk ved den måde, modeller trænes på – og at den ikke kan afhjælpes gennem post-alignment-interventioner alene.
For beslutningstagere betyder det, at valget af base-model er afgørende. Hvis homogenitet er indbygget i prætræningen, kan virksomheder ikke forvente, at finjustering løser problemet – de skal i stedet vælge modeller, der allerede har diversitet i deres output, eller acceptere ensartetheden som en del af modellens natur. Det kan også påvirke, hvordan man vurderer modeller til opgaver, hvor variation er vigtig, fx kreativt indhold eller beslutningsstøtte.
