Forskere bag AuroSFT præsenterer en ny tilgang til multi-task supervised fine-tuning (SFT), der adresserer et centralt problem: forskellige opgaver i en blandet datasæt når deres bedste generalisering på forskellige tidspunkter. Den eksisterende metode, msft, håndterer dette ved at rulle opgaver ud, ekskludere og rulle tilbage – men den gemmer hele model-checkpoints, hvilket gør overgangene dyre at lagre, gendanne og implementere.
AuroSFT løser dette ved at fryse den prætrænede backbone og kun træne injicerede adaptere. Ved at rulle adapter-checkpoints tilbage ved opgavespecifikke toppe og fortsætte på den resterende aktive blanding, opnår den samme kontrol med markant lavere ressourceforbrug. Teknisk set anvender hver adapter en AuroRA-inspireret adaptiv ikke-lineær lag på en lav-rank vægtfaktor i stedet for på sample-repræsentationen. Opdateringen forbliver lineær i input, rank-begrænset og præcist mergebar ind i den frosne projektion – se detaljer i paperet.
Resultaterne viser en gennemsnitlig nøjagtighed på 61,36% mod 59,85% for msft-referencen, og højere nøjagtighed på alle fem backbones. Koden er offentligt tilgængelig for dem, der vil reproducere eller bygge videre.
For beslutningstagere betyder det, at multi-task finetuning bliver mere praktisk i produktionsmiljøer: lavere lager- og beregningsomkostninger, nemmere deployment, og bedre præcision. Det er særligt relevant for virksomheder, der finetuner store sprogmodeller til flere opgaver samtidig og hidtil har måttet vælge mellem at gemme tunge checkpoints eller gå på kompromis med kvalitet.
