En ny position paper på arXiv argumenterer for, at de nuværende modelkort – de standardiserede dokumenter, der beskriver en AI-models egenskaber og begrænsninger – ikke er tilstrækkelige til at styre de sikkerhedsmæssige udfordringer, som åbne vægtmodeller (open-weight foundation models, OWFMs) medfører. Forfatterne har analyseret 500 modelkort på Hugging Face og identificeret et 'sikkerhedsgab' i eksisterende reguleringsmetoder, herunder manglende information om modelarv, justeringsoprindelse og empirisk observeret adfærd. De foreslår et flerlagsrammeværk, der integrerer modelkort, acceptable brugspolitikker (AUPs) og licenser som sammenhængende sikkerhedsartefakter. Læs hele papiret.
For beslutningstagere, der overvejer at anvende eller distribuere åbne AI-modeller, er dette relevant, fordi det peger på, at eksisterende gennemsigtighedsværktøjer ikke giver tilstrækkelig information til at vurdere risici. Papiret argumenterer desuden for, at standard open-source-licenser (OSLs) er dårligt egnede til OWFMs og kan svække håndhævelsen af AUPs – en pointe, der kan påvirke, hvordan virksomheder strukturerer deres juridiske rammer omkring AI-anvendelse.
