En ny videnskabelig artikel fra arXiv belyser et voksende problem i AI-økosystemet: kampen om at blive citeret af generative søgemaskiner kan føre til såkaldte 'citation wars', hvor indholdsproducenter optimerer deres indhold for at blive citeret af AI-modeller — på bekostning af kvalitet og faktuel korrekthed. Artiklen, Mechanism Design for Generative Engines, viser i simuleringer, at avancerede GEO-angreb (generative engine optimization) kan tilpasse sig konventionelle forsvar og producere omskrivninger, der forringer dokumentkvalitet og introducerer ubegrundede påstande.
For beslutningstagere, der investerer i eller bygger på AI-drevne indholdsplatforme, er dette ikke kun et teknisk problem. Det handler om tillid: Hvis AI-søgeresultater bliver fyldt med indhold, der er optimeret til at blive citeret frem for at være korrekt, undermineres værdien af hele økosystemet. Artiklen foreslår en løsning kaldet VCR (verifiable-content rewards), hvor platforme ikke kun straffer mistænkelige omskrivninger, men også belønner indhold, der fremhæver verificerbar faktuel substans. Dette skaber incitamenter til at producere troværdigt indhold, hvilket kan være afgørende for at opretholde kvaliteten i AI-drevne tjenester.
Forskerne bag artiklen har testet VCR på tre benchmarks og viser, at det konsekvent opnår den højeste 'Net defense-utility score', og overgår den stærkeste baseline med gennemsnitligt 12,1 procentpoint. Dette indikerer, at VCR kan skabe en win-win-situation, hvor både platforme og indholdsproducenter drager fordel.
For virksomheder, der driver indholdsplatforme eller bruger AI til at kuratere information, er implikationen klar: Traditionelle forsvar mod indholdsmanipulation er utilstrækkelige, og der er behov for nye incitamentsstrukturer. At investere i eller implementere mekanismer som VCR kan være en strategisk fordel for at sikre langsigtet tillid og kvalitet.
