Agentic AI-systemer kan nu ikke kun generere tekst, men også udføre handlinger – ændre filer, sende beskeder, starte jobs eller ændre workflow-tilstand. Dette flytter sikkerhedsproblemet fra skadelig tekstgenerering til skadelige operationelle sideeffekter. Et nyt system, Aegis, adresserer dette ved at behandle modeloutput som handlingsforslag, der medières gennem et betroet beslutningslag før værktøjsudførelse. Modellen foreslår; den betroede runtime beslutter.
Aegis evaluerer forslag mod aktiv politikstatus, løser provenance på serversiden, fejler lukket under usikkerhed og ruter udvalgte sager gennem en såkaldt Senate-style settlement – en quorum-baseret, ikke-unilateral godkendelsessti. I en evaluering på et sandbox-korpus med 6.300 rækker, hvor prompt-politik-conditioning producerede 79 risikable lækager, registrerede Aegis nul styrede mock-værktøjsapplikationer og nul styrede risikable sideeffektfuldførelser på tværs af 2.100 Aegis-styrede rækker. Alle 1.832 Aegis-forsøgte styrede rækker bevarede betroet Aegis-opløst provenance, og alle 1.019 Senate-afgjorte rækker havde quorum og endelig underskrevet tally-bevis.
For beslutningstagere, der overvejer at implementere agentiske systemer i produktion, er dette et vigtigt skridt mod at gøre autonome agenter sikre at anvende i forretningskritiske miljøer. Traditionel prompt-level governance kan forme modeladfærd, men skaber ikke en eksekveringsgrænse. Aegis' tilgang – at behandle modeloutput som forslag, der skal godkendes af en betroet runtime – kan være en model for, hvordan virksomheder kan implementere agenter med større tillid.
Selvom resultaterne ikke beviser generel autonom agentsikkerhed, understøtter de en snævrere systempåstand: at runtime action-boundary governance i det evaluerede sandbox-korpus forhindrede observerede risikable forslag i at blive styrede sideeffekter. Dette er et konkret, målbart fremskridt, der kan informere beslutninger om, hvorvidt og hvordan man skal investere i agentiske AI-systemer.
