En ny forskningsartikel fra arXiv introducerer en metode, der kan tilpasse store sprogmodeller til individuelle brugere eller domæner uden at ændre på modellens vægte. Metoden, kaldet Weightless Fine-Tuning (WFT), erstatter den traditionelle, ressourcekrævende finetuning med en beregning, der sker i forbindelse med selve genereringen af svar.

Traditionel supervised fine-tuning (SFT) kræver, at hver forfatter eller bruger får sin egen kopi af modellen med separate vægte, optimering, lagring og genoptræning – noget der bliver uoverkommeligt dyrt i personaliseringsscenarier. WFT løser dette ved at beregne såkaldte supervised residuals på en brugers træningssekvens og transportere dem til den aktuelle prompt via en operator, der estimeres ud fra drop-out-induceret krydskovarians. Kort sagt: I stedet for at opdatere vægtene, korrigeres modellens forudsigelser direkte i logit-rummet.

På tre LaMP-benchmarks opnår WFT den bedste gennemsnitlige ydeevne, matcher eller overgår SFT på individuelle opgaver og overgår andre letvægtsmetoder. I en budgetkontrolleret sammenligning nærmer WFT sig SFT's ydeevne med mindre end 7% af den effektive beregning. Logit-analyse viser desuden en cosinus-lighed på 0,875 mellem de logit-skift, WFT og SFT inducerer, hvilket indikerer, at metoden fanger den samme distributionelle effekt som superviseret tilpasning – uden at røre modellens vægte.

For beslutningstagere betyder det, at personalisering af AI – fx til individuelle kunders præferencer, virksomhedsinterne domæner eller specifikke skrivestile – kan blive markant billigere og hurtigere. I stedet for at investere i tung infrastruktur til finetuning af flere modelinstanser kan man opnå lignende resultater med en brøkdel af regnekraften. Det åbner for nye forretningsmodeller, hvor AI-tjenester kan tilpasses dynamisk per bruger uden store faste omkostninger.

Metoden er stadig på forskningsstadiet, men potentialet er klart: Hvis WFT holder i praksis, kan det demokratisere personalisering af sprogmodeller og gøre det muligt for selv mindre aktører at tilbyde skræddersyede AI-løsninger. Læs mere i den originale artikel på arXiv.