ByteDance Seed og Tsinghua AIR har præsenteret CUDA Agent, et agentisk reinforcement learning-system, der træner en stor sprogmodel til at skrive GPU-kerner, der er hurtigere end dem, en compiler genererer. Målet er snævert, men vedholdende: frontlinjemodeller producerer allerede korrekt CUDA-kode, men den er ofte langsom. Med CUDA Agent opnår basismodellen Seed1.6 en pass-rate på 74,0% på KernelBench-benchmarken, hvilket markerer et spring i modellens evne til at optimere på hardware-niveau. Læs den originale meddelelse.
For beslutningstagere handler dette ikke om kode-detaljer, men om, at AI nu kan tage et skridt tættere på at automatisere den slags ekspertopgaver, der tidligere krævede specialiserede ingeniører. Hvis modeller kan generere hardware-optimeret kode, kan virksomheder reducere afhængigheden af manuel tuning og accelerere udviklingen af højtydende applikationer – fra videnskabelig computing til AI-infrastruktur. Det er et signal om, at konkurrencen om at gøre AI til en produktiv medarbejder i softwareudvikling intensiveres, og at de, der investerer i eller bygger på sådanne systemer, kan få en fordel i ydeevne og omkostninger.
