En ny forskningspræsentation fra Hugging Face introducerer WorldToken, en metode til at modellere robotpolitikker, der behandler observationer fra flere kameraer, proprioception og opgavebetingelser som ét samlet "verdenstoken" pr. tidssteg. Modellen, som er en kausal temporal Transformer med en diffusionsbaseret aktionshoved, opnår 59,45 % gennemsnitlig lukket-sløjfe-succes på 23 RoboCasa-opgaver med 2.900 genererede demonstrationer pr. opgave — trænet fra bunden med undtagelse af en frossen CLIP-tekstencoder. Resultaterne er interessante, men forfatterne understreger selv, at de ikke etablerer overlegenhed over andre sekvensorganiseringer eller isolerer, hvilke komponenter der driver den observerede ydeevne. Læs hele papiret her.
Det vigtigste fund for beslutningstagere er dog ikke selve arkitekturen, men den systematiske kortlægning af, hvordan synlig historik påvirker succesraten. På RMBench Blocks Ranking falder evaluatorsuccesen fra 95 % til 28 %, når den synlige historik reduceres fra 146 til 8 sekunder. Tilsvarende viser et eksperiment med historik-trunkering, at reduktion til én eller to politiktidssteg sænker lukket-sløjfe-succesen for alle 50 RoboCasa-politikker. Dette indikerer, at tidsmæssig kontekst er en kritisk faktor for imitation learning — ikke kun modelstørrelse eller data.
For virksomheder, der bygger eller køber robotløsninger baseret på imitation learning, betyder det, at beslutninger om hardware og softwarearkitektur bør prioritere evnen til at håndtere længere tidsmæssige sekvenser. Data-scaling-analysen viser desuden konsistente gevinster fra yderligere mål-domæne-data, mens fordelene ved større modeller aftager efter et moderat niveau. Det peger på, at investering i dataindsamling kan være mere værd end at øge modelparametrene.
