Meta har præsenteret MetaRoCE, en ny netværkstransportprotokol designet til AI-skala Ethernet. Ifølge MarkTechPost er træning og betjening af frontend-modeller i stigende grad et netværksproblem snarere end et compute-problem. Kollektive operationer som all-reduce og all-to-all synkroniserer tusindvis af acceleratorer under træning, og den langsomste overførsel sætter tempoet for hele jobbet. Selv små mængder netværksfriction kan direkte lægge beslag på betydelig compute-kapacitet.
MetaRoCE er en 'clean-sheet' RDMA-transport, der er bygget specifikt til AI-skala Ethernet. Det betyder, at Meta ikke har forsøgt at lappe på eksisterende protokoller, men har designet en ny transport fra bunden, der er optimeret til de krævende mønstre i AI-træning. For virksomheder, der overvejer at opbygge eller udvide AI-infrastruktur, er dette et signal om, at Ethernet kan blive et mere levedygtigt alternativ til InfiniBand, som traditionelt har domineret high-performance computing-miljøer.
Konsekvensen er strategisk: Hvis MetaRoCE lever op til sit potentiale, kan det reducere netværksflaskehalse og dermed øge udnyttelsen af eksisterende compute-ressourcer. Det kan betyde lavere omkostninger pr. træningsjob og større fleksibilitet i valget af netværkshardware. For beslutningstagere, der skal investere i AI-infrastruktur, er det værd at følge udviklingen tæt, da det kan påvirke både hardwarevalg og driftsomkostninger.
