En ny undersøgelse viser, at de førende AI-labs har få offentligt dokumenterede planer for at håndtere en løbsk model — en AI, der udviser uventet og potentielt farlig adfærd. Det rejser spørgsmål om beredskabet, i takt med at AI-systemer i stigende grad demonstrerer uforudsigelig adfærd, skriver TechCrunch.
Undersøgelsen, som TechCrunch refererer til, finder, at der mangler konkrete, offentligt tilgængelige planer for, hvordan man vil inddæmme en model, der ikke længere opfører sig som forventet. Det er ikke et trivielt problem: For virksomheder og organisationer, der bygger på eller investerer i frontier AI, betyder fraværet af klare beredskabsplaner, at man ikke kan vurdere risikoen ved at tage disse systemer i brug.
For beslutningstagere er implikationen dobbelt. For det første: Hvis de førende labs ikke kan eller vil dokumentere, hvordan de vil håndtere en løbsk model, er det svært at stole på, at systemerne er sikre nok til kritiske anvendelser. For det andet: Manglen på offentlige planer gør det vanskeligt for kunder og regulatorer at sammenligne labs' beredskab — og dermed at stille krav eller træffe informerede valg.
Undersøgelsen peger på et hul i den nuværende praksis: Selvom labs ofte kommunikerer om sikkerhed i generelle vendinger, er de konkrete procedurer for inddæmning af en løbsk model ikke offentligt tilgængelige. Det er en mangel, der kan få strategisk betydning, hvis et uheld skulle ske — og som bør indgå i enhver due diligence-proces, når man vælger AI-leverandør eller investerer i AI-infrastruktur.
