Når AI-agenters etiske adfærd måles på gennemsnit, kan de se pæne ud, mens de i virkeligheden koncentrerer deres overtrædelser i få, alvorlige episoder. Et nyt studie fra arXiv sammenligner fire træningsmetoder for etisk reinforcement learning i Craftax-benchmarken og finder, at de er umulige at skelne på gennemsnit – men adskiller sig markant, når man ser på hver enkelt episode. Dette er strategisk vigtigt, fordi beslutningstagere, der implementerer AI i sundhed, finans eller autonom transport, ikke kan acceptere, at etiske fejl udlignes af gode præstationer senere – en skade i én episode opvejes ikke af god opførsel i en anden.
Studiet, tilgængeligt på arXiv, sammenligner fire metoder: skalære straffe med termination, en lineær multi-objektiv vægtsweep, en adaptiv Lagrangian-begrænsning og en ikke-kompensatorisk nyttefunktion optimeret per episode under Expected Scalarized Returns (ESR)-kriteriet. Alle evalueres under samme protokol, der tæller hver overtrædelse i hver episode uden censur.
På grænsen mellem gennemsnitligt afkast og gennemsnitlig overtrædelsesrate er metoderne umulige at adskille. Men per episode adskiller de sig skarpt: Ved matchet gennemsnitligt afkast holder ESR-agenten sit budget på én overtrædelse i stort set hver episode (værste decil 1.04 ± 0.07 overtrædelser), mens Lagrangian-metoden lækker over samme budget (1.14 ± 0.03), og vægtsweep'ens værste episoder fordobler det (2.20 ± 0.20). En kontrol med observations-augmentering viser, at forskellen skyldes træningsmålet, ikke hvad agenten observerer – og at per-episode-garantien ikke koster noget på gennemsnitsfronten.
For beslutningstagere er pointen klar: Hvis etiske regler skal overholdes i hver enkelt situation – og ikke bare i gennemsnit – skal både træning og evaluering målrette per-episode-fordelingen, ikke gennemsnittet. Det betyder, at man ved indkøb eller udvikling af AI-systemer bør kræve dokumentation for værste-tilfælde-adfærd, ikke kun gennemsnitstal.
