Den videnskabelige kvalitetskontrol er ved at bryde sammen under vægten af en eksplosion i antallet af forskningspapirer – ikke mindst dem, der er skrevet med hjælp fra kunstig intelligens. Ifølge Ars Technica er peer review, hvor frivillige forskere gennemgår kollegers arbejde før publicering, nu så overbelastet, at systemet truer med at kollapse. Volunteer reviewere, der typisk bruger mange timer på hvert manuskript uden betaling, kan ikke følge med den voksende strøm af indsendelser. Det skaber en flaskehals, der forsinker publicering af ny viden og øger risikoen for, at fejl eller dårlig forskning slipper igennem nåleøjet.
For en beslutningstager – i en virksomhed, en investeringsafdeling eller en myndighed – er konsekvensen ikke akademisk. Når peer review bliver langsommere og mindre pålidelig, bliver det sværere at stole på den forskning, der ligger til grund for alt fra produktudvikling til politiske beslutninger. Virksomheder, der bygger på ny videnskab, må i højere grad selv foretage due diligence, mens investorer bør være varsomme med at lægge for meget vægt på enkeltstudier, der ikke har gennemgået solid uafhængig vurdering.
Samtidig rejser AI-assisterede papirer et grundlæggende spørgsmål om, hvad der overhovedet tæller som valid forskning. Hvis værktøjer kan generere store mængder tekst og data, bliver det vanskeligere for reviewere at skelne mellem ægte indsigt og poleret overflade. Det er ikke kun et teknisk problem for forskere – det er et tillidsproblem for hele det videnskabelige økosystem, som markedet og samfundet i høj grad er afhængige af.
Der er ingen let løsning i sigte. At automatisere dele af review-processen med AI kan hjælpe, men det rejser selv nye spørgsmål om kvalitet og ansvar. Indtil videre står vi med et system, der er ved at kvæles i sin egen succes – og hvor de, der skal bruge forskningen, må navigere i et landskab med stigende usikkerhed.
