En ny videnskabelig artikel fra arXiv argumenterer for, at fremtidens personlige AI-systemer ikke blot skal indsamle flere data om brugeren, men aktivt samarbejde med brugeren om, hvad der observeres. Pointen er, at en AI-assistent kun kan være nyttig, hvis den forstår brugerens mål og forpligtelser – og at denne forståelse er begrænset af, hvad systemet kan observere.
Forfatterne bag artiklen introducerer begrebet cooperative observation: en feedback-loop, hvor systemet bygger en delvis model af brugerens liv, brugeren vurderer systemets handlinger, og brugerens samtykke og kontrol bestemmer, hvad systemet kan observere fremover. Hvis systemet er nyttigt og transparent, giver brugeren adgang til flere data; hvis det fejler, indskrænker eller trækker brugeren adgangen tilbage.
Det interessante for beslutningstagere er ikke den tekniske detalje, men konsekvensen: Tillid bliver en strategisk ressource for AI-produkter. Et system, der ikke opbygger tillid, vil systematisk miste adgang til de data, der gør det værdifuldt – og dermed miste sin konkurrenceevne. Omvendt kan et transparent og pålideligt system opnå en konkurrencefordel ved at få lov til at se mere.
Artiklen bygger på en foreløbig test med prototypen Organizm over seks måneder, men understreger selv, at der er behov for mere forskning i, hvordan observationens kvalitet påvirker personlig AI. Alligevel peger rammen på et skift: Fra at maksimere dataindsamling til at designe systemer, der aktivt inviterer til samarbejde om dataadgang.
