Multimodale AI-modeller, der kombinerer tekst, billeder, lyd og video, bliver i stigende grad standarden i virksomheders AI-stakke. Men ifølge en ny systematisk gennemgang fra arXiv ændrer denne arkitektur fundamentalt på sikkerhedsbilledet – og de eksisterende værktøjer, der er bygget til tekstbaserede modeller, fanger ikke de nye trusler.
Undersøgelsen identificerer tre nye trusselskategorier, der opstår, når modeller integrerer flere modaliteter: kompromitteret modalitetsintegration, modalitets-misalignment og sammenblandede sikkerhedsrisici. Det betyder, at trusselsmodelleringen – altså hvordan man tænker om angreb – ikke længere kan antage, at en model kun behandler tekst. For eksempel kan et angreb udnytte uoverensstemmelser mellem hvad modellen "ser" i et billede og hvad den "læser" i teksten, hvilket skaber nye angrebsvektorer som jailbreaks og dataforgiftning.
For beslutningstagere, der overvejer at implementere multimodale løsninger, er den centrale pointe, at sikkerhedsstrategier skal gentænkes. De nuværende rammer, der er forankret i uni-modal læring – altså modeller der kun håndterer én type data – er ikke tilstrækkelige. Surveyen foreslår en ny taksonomi for trusler og samler de seneste fremskridt inden for sikkerhedsstrategier, men understreger samtidig, at der stadig er åbne udfordringer og behov for mere principielle og skalerbare mekanismer.
For virksomheder betyder det, at man ikke kan nøjes med at tilpasse eksisterende sikkerhedsværktøjer. Man skal aktivt vurdere, om de nye trusler er dækket, og om ens interne test- og evalueringsprocesser tager højde for de krydsmodale risici. Det er ikke kun et teknisk anliggende – det har konsekvenser for risiko- og compliance-afdelinger, der skal forstå, hvordan multimodale modeller ændrer trusselsbilledet.
