Multimodale AI-modeller – systemer der behandler både tekst, billeder, lyd og video – bliver stadig mere udbredt i erhvervslivet. Men deres svar kan være flydende og overbevisende, selv når de bygger på usikkert eller modstridende grundlag. En ny forskningsoversigt fra arXiv sætter fokus på, hvordan disse systemer kan blive bedre til at håndtere usikkerhed – og dermed mere pålidelige i beslutningssituationer.
Oversigten samler forskningen i 'uncertainty-aware' multimodale sprogmodeller omkring et beslutningscentreret rammeværk: usikkerhedskilder giver anledning til observerbare signaler, signaler skal kalibreres eller kontrolleres for risiko, og kalibreret usikkerhed bør bestemme systemets handling. Det centrale argument er, at usikkerhed ikke kun bør vurderes som et konfidenstal – men ved, om det forbedrer adfærd under utilstrækkelig, konfliktfyldt, ændret eller højrisiko multimodal evidens.
For beslutningstagere er pointen klar: En AI-assistent kan levere et flydende svar, der skjuler dårlig inputkvalitet, en perceptuel fejl, svag forankring eller konflikt mellem modaliteter. Uden mekanismer til at detektere og kommunikere usikkerhed risikerer virksomheder at handle på svar, der er mere selvsikre, end de er korrekte.
Oversigten gennemgår en række teknikker – fra token- og logit-usikkerhed over semantisk uenighed til verbale konfidensestimater og konforme forudsigelser – og diskuterer værktøjer som selektiv besvarelse, afholdenhed (abstention), afklaring, retrieval og selvkontrol. Særligt relevant er arbejdet med at lade systemet 'vælge at svare' eller 'vælge at afstå', afhængigt af hvor sikker det er.
Forskerne peger også på åbne problemer: kildebevidst dekomponering af usikkerhed, handlingsbevidste benchmarks, kalibrering under ændrede forhold, black-box usikkerhedsestimering, bredere modalitetsdækning, reproducerbar rapportering og menneskecentreret kommunikation af usikkerhed.
For virksomheder, der bygger eller køber AI-løsninger, betyder det, at usikkerhedshåndtering bør være et kriterium i evalueringen af systemer – ikke kun nøjagtighed. Et system, der kan sige 'ved ikke' og bede om afklaring, kan være mere værdifuldt i højrisiko-sammenhænge end et, der altid svarer med selvsikkerhed.
