En ny forskningsartikel fra arXiv introducerer en metode, der kan gøre det markant billigere og hurtigere at opdatere AI-modeller til nye opgaver eller domæner. Metoden, kaldet SemiAdapt-Instruct, er et modulært framework, der opdeler instruktionsdata i latente domæner og træner separate, specialiserede adaptere for hvert domæne. Når et nyt domæne skal tilføjes, kræver det kun træning af én enkelt adapter – uden at skulle ændre på de eksisterende komponenter eller genoptræne hele modellen.
Det centrale resultat er, at SemiAdapt-Instruct klarer sig bedre end fuld finjustering af modellen på tværs af alle konfigurationer, både målt med ROUGE-L og med LLM-as-a-judge-evaluering. Samtidig matcher det en enkelt LoRA-finjustering, men tilbyder noget, monolitiske modeller ikke kan: ekstensibilitet. Forskerne viser empirisk, at opdatering af én enkelt adapter med nye domænedata overgår alle monolitiske baseline-modeller. Derudover finder de, at uafhængige opdagelsesmetoder konvergerer mod de samme specialiseringsvenlige domæner.
For beslutningstagere betyder det, at man ikke længere behøver at vælge mellem at genoptræne en hel model (dyrt og langsomt) eller at acceptere forældede evner. Med SemiAdapt-Instruct kan virksomheder løbende udvide deres AI-systemer med nye domæner – for eksempel nye reguleringer, produktområder eller kundesegmenter – uden at skulle investere i fuld genoptræning. Det gør vedligeholdelse og skalering af AI-systemer væsentligt mere agil og omkostningseffektivt.
