En ny position paper fra arXiv argumenterer for, at AI-systemer i højrisikobeslutninger skal designes til at ræsonnere på samme måde som deres brugere – ikke bare være korrekte. Papiret fremhæver, at kognitiv tilpasning (cognitive alignment) forbedrer forståelighed og troværdighed, og at mange brugere finder det "essential", når AI'ens begrundelse betyder noget for dem.
For beslutningstagere, der overvejer at implementere AI i fx sundhed, finans eller jura, peger papiret på en konkret barriere: Hvis AI'ens ræsonnement ikke matcher brugerens mentale model, falder tilliden – og dermed adoptionen. Forfatterne efterlyser en forskningsdagsorden, der lukker hullet mellem eksisterende alignment-metoder og det, der kræves for at opnå kognitiv alignment.
Det strategiske perspektiv er klart: Virksomheder, der investerer i AI-assisterede beslutninger, bør vurdere, om systemerne kan forklare deres ræsonnement på en måde, der giver mening for de mennesker, der skal stole på dem. Ellers risikerer de at stå med teknisk avancerede, men uudnyttede værktøjer.
