Reinforcement Learning (RL) bruges i stigende grad i autonome systemer, men beslutningerne er ofte uigennemsigtige, fordi de bygger på dybe neurale netværk. Det kan mindske brugertilliden og gøre verifikation vanskelig. Nu introducerer forskere EARL, et Python-bibliotek, der kan generere kontrafaktiske forklaringer – altså 'hvad-hvis'-scenarier, der viser, hvad der ville være sket, hvis systemet havde handlet anderledes.
EARL er designet til at fungere i realistiske RL-baserede selvadaptive systemer, ikke kun legetøjseksempler. Forskerne demonstrerer værktøjet i en simulation af CitiBikes, et selvadaptivt delecykelsystem, og leverer evalueringer fra rigtige applikationer.
For beslutningstagere, der overvejer at implementere RL i autonome systemer – fra transport til energistyring – er evnen til at forklare beslutninger afgørende. Det handler ikke kun om tillid, men også om at kunne verificere, at systemet opfører sig korrekt, og om at overholde kommende reguleringer om AI-gennemsigtighed. Med EARL bliver det muligt at stille spørgsmål som: 'Hvad ville der være sket, hvis systemet havde valgt en anden handling?' – og få et konkret svar.
