Når en AI-model skal 'glemme' bestemt viden – fx personlige oplysninger eller ophavsretligt beskyttet indhold – er det ikke nok at fjerne data fra modellens parametre. Ny forskning viser, at AI-agenter, der er udstyret med værktøjer som websøgning eller databaseopslag, nemt kan genskabe den samme viden via disse værktøjer. Dette kaldes 'tool-mediated recovery' og er et overset problem i eksisterende unlearning-metoder.
Forskerne bag Agentic Tool Unlearning (ATU) foreslår en to-trins metode, der både undertrykker direkte genkaldelse fra modellen og straffer agenten, når den forsøger at søge efter den glemte viden gennem værktøjer. Metoden bruger reinforcement learning i simulerede værktøjsmiljøer for at lære agenten at undgå målrettet søgeadfærd og lækage af svar.
Testet på benchmarkene RWKU og MUSE viser ATU en bedre balance mellem at glemme det ønskede indhold og bevare modellens generelle anvendelighed. Det gør unlearning mere robust i praksis, hvor AI-systemer i stigende grad opererer som værktøjsforstærkede agenter.
For virksomheder og beslutningstagere betyder det, at eksisterende unlearning-løsninger kan være utilstrækkelige, hvis deres AI-systemer har adgang til eksterne værktøjer. Regulatoriske krav om 'retten til at blive glemt' eller fjernelse af følsomme data kan derfor kræve en mere helhedsorienteret tilgang, der også dækker værktøjsbaseret genfinding.
