En ny benchmark, KAN-Robust-Bench, sætter fokus på sikkerheden i Kolmogorov-Arnold-netværk (KAN), en alternativ AI-arkitektur, der vinder frem i forskningsmiljøer. Resultaterne viser, at selv avancerede modeller er sårbare over for såkaldte evasion-angreb, hvor angribere laver små, næsten usynlige ændringer i data for at narre modellen. For virksomheder, der overvejer at implementere KAN-modeller i produktionssystemer, er dette en kritisk påmindelse om, at ydeevne ikke er det eneste parameter – robusthed mod angreb bør indgå i beslutningsgrundlaget.
Forskerne bag benchmarket har systematisk testet forskellige KAN-arkitekturer mod stærke angreb som FGSM, PGD og C&W. De har også undersøgt certificeret robusthed ved hjælp af randomized smoothing og interval bound propagation. Det giver praktiske indsigter: Hvilke arkitekturer og forsvarsstrategier der fungerer bedst under angreb, og hvor der er behov for yderligere udvikling. For beslutningstagere betyder det, at valget af AI-model ikke kun bør baseres på præcision i normale scenarier, men også på, hvordan modellen opfører sig under fjendtlige forhold – især i sikkerhedskritiske applikationer som finans, sundhed og forsvar.
Selvom KAN-modeller stadig er i en tidlig fase sammenlignet med traditionelle neurale netværk, viser denne benchmark, at der er et reelt hul i forståelsen af deres sikkerhed. For dem, der investerer i eller bygger på KAN-teknologi, er det værd at følge med i, hvordan feltet udvikler sig, og at kræve dokumentation for robusthed, før man ruller modeller ud i produktion.
