Forskere har præsenteret en ny tilgang til fødereret læring, der kan ændre, hvordan AI-modeller trænes på tværs af enheder uden at dele data. Metoden, kaldet Sheaf-based Federated Representation Learning (SFRL), er beskrevet i et nyt paper på arXiv og adresserer et grundlæggende problem: hvordan får man AI-systemer til at lære af hinanden, når deres data, sensorer, arkitekturer og mål er forskellige?
Traditionel fødereret læring antager typisk, at alle deltagende modeller opererer i et fælles latent rum – et slags fælles sprog for repræsentationer. SFRL dropper den antagelse. I stedet opnås global konsistens gennem justering af naborepræsentationer via ortogonale transformationer og isometriske indlejringer. Det betyder, at systemet kan håndtere heterogenitet langt mere fleksibelt, hvilket er relevant for alt fra sundhedsdata på tværs af hospitaler til industrielle sensorer.
For beslutningstagere er den vigtigste pointe, at metoden ikke kræver et fælles latent rum – en teknisk detalje med store praktiske konsekvenser. Det gør det lettere at implementere fødereret læring i virkelige scenarier, hvor enheder og data er forskellige, og hvor kommunikationseffektivitet er afgørende. SFRL evaluerer straffen på et lille sæt delte pilotprøver, hvilket sikrer skalerbarhed og lav kommunikationsomkostning – en central faktor for organisationer, der overvejer distribueret AI.
Forskerne har også udviklet en decentraliseret algoritme, Sheaf-FRL, der veksler mellem gradientopdateringer og lukkede Procrustes-opdateringer. De viser, at algoritmen konvergerer til førsteordens stationære punkter i både deterministiske og stokastiske indstillinger. I en anvendelse inden for semantisk kommunikation klarede SFRL sig bedre end baseline-metoder på klassificeringsnøjagtighed, både lokalt og efter kommunikation, og var mere robust over for kompression af latent dimensionalitet.
For virksomheder og institutioner, der overvejer fødereret læring, signalerer dette et skift mod mere fleksible og robuste systemer. Det kan reducere behovet for at standardisere data og arkitekturer på tværs af enheder, hvilket ofte er en stor barriere i praksis. Samtidig åbner det for anvendelser, hvor dataprivatliv og kommunikationsbegrænsninger er kritiske.
