Forskere har præsenteret SNI-GNN, et system der bruger SmartNICs til at reducere kommunikationsomkostningerne ved fuld-graf GNN-træning på multi-server clusters. Resultaterne, beskrevet i et arXiv-paper, viser en reduktion i kommunikation på 21–45% og en end-to-end hastighedsforøgelse på 1,3–3,6× sammenlignet med eksisterende systemer som BNS-GCN, samt op til 1,29× over baseline SANCUS – alt sammen med et præcisionstab på højst 0,01.
Fuld-graf GNN-træning giver høj nøjagtighed, men skalerer dårligt på tværs af servere på grund af tunge, uregelmæssige udvekslinger af embeddings mellem noder. SNI-GNN løser dette ved at implementere en letvægts lineær-trend-prediktor på SmartNICs, der forfiner cachelagrede historiske embeddings direkte i netværket. Dette kombineres med en vigtighedsbaseret prøveudtagningsstrategi for grænse-noder og en asynkron DPU–GPU data-pipeline med genbrug af mellemresultater.
For beslutningstagere, der overvejer at skalere GNN-træning til store grafer – for eksempel i anbefalingssystemer, netværksanalyse eller lægemiddelopdagelse – betyder dette, at fuld-graf tilgangen nu kan blive levedygtig på større clusters uden at gå på kompromis med nøjagtigheden. Systemet er implementeret på NVIDIA BlueField-3 og integrerer med eksisterende fuld-graf systemer, hvilket gør det til en praktisk tilføjelse til partitionering og kompressionsteknikker. Det skalerer effektivt til 16 GPU'er på grafer med op til titusinder af kanter.
Selvom dette er forskning, ikke et kommercielt produkt, peger resultaterne på en retning, hvor hardware-assisteret netværksbehandling kan blive en standardkomponent i AI-infrastruktur – en faktor at holde øje med, når man vurderer hardware- og softwareinvesteringer til graf-baserede AI-arbejdsbelastninger.
