En ny videnskabelig undersøgelse fra arXiv viser, at måden, hvorpå man præsenterer en AI-styret modstander for mennesker, kan have større betydning for oplevelsen af fairness, tillid og toksicitet end selve den tekniske kontrol. Forskningen, beskrevet i artiklen Runtime Action Interference for AI Control of AlphaStar in StarCraft II, introducerer en kontrolmekanisme kaldet runtime action interference (RAI), der regulerer, hvor ofte og hvilke handlinger en AI-model må udføre, uden at ændre på selve modellens parametre.
I et menneskeligt studie med StarCraft II sammenlignede forskerne to præsentationer af den samme AI-modstander: én hvor kapacitetsbegrænsningen blev skjult, og én hvor den blev oplyst. Resultaterne viste markante forskelle i deltagernes vurderinger. Når kapacitetsbegrænsningen blev skjult, vurderede deltagerne fairness og tillid højere (3,90 og 3,50 på en skala fra 1 til 5), mens toksicitet blev vurderet lavere (2,00). Når begrænsningen blev oplyst, faldt fairness til 2,62, tillid steg til 4,31, og toksicitet steg til 2,85.
Undersøgelsen understreger, at opfattelsen af en AI-styret modstander kan variere betydeligt afhængigt af, hvilken information brugeren får om dens evner – selv når den faktiske kontrol er identisk. For beslutningstagere, der udvikler eller implementerer AI-systemer i interaktive miljøer, er dette en vigtig pointe: Det er ikke kun den tekniske kontrol, der former brugeroplevelsen, men også kommunikationen omkring systemets kapacitet.
Forskerne konkluderer, at evaluering af menneske-AI-interaktion bør adskille kontrol i eksekveringsstakken fra kapacitetsoplysning, og at fairness, tillid og toksicitet bør vurderes som separate dimensioner af menneskelig oplevelse. For virksomheder og organisationer, der bygger AI-assistenter, spil eller andre interaktive systemer, kan dette have direkte konsekvenser for, hvordan man designer brugergrænseflader og kommunikerer om AI'ens formåen.
