Anthropic har introduceret et nyt vandmærkesystem til deres AI-model Claude, der gør det muligt at identificere, om tekst er genereret af AI. Reaktionen har ikke ladet vente på sig: En række brugere har på sociale medier udtrykt frustration over, at systemet kan afsløre dem i at bruge AI til opgaver, de burde udføre selv – eksempelvis i jobsammenhænge eller i undervisningssituationer. TechCrunch rapporterer, at kritikken især handler om, at vandmærkerne gør det sværere at snyde uopdaget.
For beslutningstagere er dette mere end en teknisk detalje. Vandmærkning af AI-genereret indhold har strategisk betydning for virksomheder og institutioner, der skal forholde sig til AI-brug i deres organisationer. Det rejser spørgsmål om, hvordan man sikrer ansvarlig brug af AI, og om man skal implementere værktøjer til at detektere AI-genereret indhold – både for at overholde regler og for at beskytte intellektuel ejendom. Samtidig viser debatten, at der er et marked for løsninger, der kan spore og dokumentere AI-genereret indhold, hvilket kan påvirke alt fra uddannelsesinstitutioner til virksomheder, der ønsker at validere ægtheden af deres indhold.
Selvom kritikken fra nogle brugere kan virke som et mindre problem, peger den på en større tendens: AI-virksomheder begynder at tage ansvar for, hvordan deres modeller bruges, og det får konsekvenser for både brugere og virksomheder. For dem, der overvejer at investere i eller implementere AI-løsninger, er det værd at overveje, hvordan vandmærkning kan påvirke deres forretningsprocesser og risikostyring.
