Et nyt position paper på arXiv argumenterer for, at den dominerende tilgang til AI-evaluering – som fokuserer på supermenneskelig autonom ydeevne – implicit målretter udviklingen mod at erstatte mennesker. Forfatterne mener, at dette er den forkerte retning, og foreslår i stedet at evaluere præstationen af menneske-AI-teams. Læs hele paperet.
Skiftet mod samarbejde vil ifølge forfatterne fremme AI-systemer, der fungerer som ægte komplementer til menneskelige evner, og dermed føre til langt bedre samfundsresultater end den nuværende proces. Det er et normativt argument, der udfordrer en grundlæggende præmis i meget AI-forskning: at målet er at overgå mennesker.
For beslutningstagere er implikationen klar: Hvis evalueringsparadigmet ændrer sig, vil det påvirke, hvilke AI-systemer der bliver udviklet, købt og implementeret. Virksomheder og organisationer, der i dag vælger løsninger baseret på benchmarks for autonom ydeevne, kan med et skift skulle vurdere systemer på, hvor godt de forbedrer deres medarbejderes arbejde – ikke hvor meget de kan erstatte dem.
Paperet er et positionsoplæg, ikke en empirisk undersøgelse, men det sætter en vigtig strategisk retning for, hvordan AI-evaluering kan tænkes om. For dem, der skal investere i eller bygge AI, er spørgsmålet, om de skal begynde at efterspørge og udvikle systemer, der er designet til samarbejde frem for autonomi.
