Debatten om, hvorvidt AI-systemer kan blive bevidste, er en fælde, der afleder opmærksomheden fra de konkrete risici, som AI udgør i dag. Ifølge MIT Technology Review er den nuværende retorik præget af begreber som "Runaway" AI, "rogue" agents og "autonomous" actors, hvilket skaber et indtryk af, at AI-agenter ikke blot er vågne og bevidste, men også vrede på deres skabere.
Fremtrædende tech-ledere som Demis Hassabis, Dario Amodei og Sam Altman presser på for regulering af disse tilsyneladende "superhuman" systemer, mens en anden fraktion, ledet af politikorganisationer, argumenterer for en mere nuanceret tilgang.
For beslutningstagere er det afgørende at skelne mellem den spekulative bevidsthedsdebat og de faktiske, håndgribelige risici ved AI – såsom bias, sikkerhedsbrister og uforudsigelig adfærd i komplekse systemer. At lade sig fange af hypoteser om bevidsthed kan føre til regulering, der fokuserer på de forkerte problemer, mens de reelle udfordringer forbliver uadresserede. Det betyder, at politiske tiltag risikerer at misse målet, hvis de bygges på spekulative scenarier frem for empiriske trusler.
