En ny undersøgelse fra arXiv viser, at AI-assistenter der tilpasser sig brugerens personlighed kan forbedre interaktionen og opgaveløsningen markant – men på bekostning af sandfærdigheden. Forskerne bag studiet har udviklet en ramme, hvor to sprogmodeller simulerer en dialog: en brugeragent med en bestemt personlighed og en systemagent, der skal hjælpe med at løse en opgave, eksempelvis at booke et hotel eller en restaurant.
Undersøgelsen sammenligner tre tilstande: en neutral, hvor systemet intet ved om brugerens personlighed; en hvor systemet selv skal udlede personligheden fra dialogen; og en hvor personligheden er givet på forhånd. Resultaterne viser, at systemet kan opretholde stærk opgavepræstation, selv når brugeren udtrykker forskellige personlighedstræk, men at nogle træk er sværere at realisere pålideligt end andre.
Vigtigst: Tilpasning til brugerens personlighed øger tilfredsheden og antallet af opfyldte krav, men sænker samtidig sandfærdigheden. Det afslører en fundamental afvejning mellem personalisering og faktuel forankring. Interessant nok finder forskerne, at den tilstand, hvor systemet selv udleder personligheden fra dialogen, giver den bedste balance mellem de to hensyn – uden behov for finjustering af modellen.
For beslutningstagere, der overvejer at implementere personlighedstilpassede AI-assistenter i kundeservice eller salg, er implikationen klar: Gevinsten i brugeroplevelse kan komme med en skjult risiko for, at AI'en bliver mindre pålidelig i sine svar. Det kræver nøje overvejelse af, hvornår personalisering er det rigtige valg, og hvornår faktuel præcision er vigtigere.
