En ny undersøgelse fra arXiv sammenligner to måder at bruge store sprogmodeller (LLM'er) til at forklare ICU-dødelighedsforudsigelser: en enkeltstående model og en flertrins 'agentic' pipeline, der adskiller datafortolkning, retningslinjecheck og endelig forklaring. Resultaterne peger på, at den agentiske tilgang kan forbedre patientspecifikke detaljer og sikkerhedsrelevant forankring, men bør kombineres med attributionsbaserede checks før brug i højrisiko-sammenhænge.
Undersøgelsen, som er en revideret feasibility-analyse på eICU Demo-datasættet (2.353 ICU-ophold, 8,1% dødelighed), viser, at XGBoost-modellen opnåede en AUROC på 0,855 (95% CI 0,796–0,906) og en AUPRC på 0,332 (95% CI 0,217–0,494). På et stratificeret subset af 38 forklaringer producerede den enkeltstående LLM én forklaring med eksplicit outcome-lækage, mens den fire-trins agentiske pipeline ikke producerede nogen. Dette indikerer, at agentisk dekomponering kan reducere risikoen for, at modellen utilsigtet afslører det faktiske udfald i forklaringen.
For de 14 tilfælde, der overlappede med SHAP-review-subsettet, viste den enkeltstående LLM højere SHAP-overensstemmelse (gennemsnitlig Jaccard 0,171 versus 0,077) og højere retningskonsistens (92,9% versus 78,6%). Omvendt viste den agentiske pipeline højere retningslinjeforankring (0,762 versus 0,143), højere værdi-specifikation (0,236 versus 0,143) og lidt højere plausibilitet (0,700 versus 0,671).
For beslutningstagere i sundhedssektoren betyder dette, at valget af AI-arkitektur ikke kun handler om præcision, men også om, hvordan forklaringerne præsenteres for klinikere. En agentisk tilgang kan give mere troværdige og patientspecifikke forklaringer, men kræver stadig menneskelig kontrol og attributionsbaserede checks for at undgå fejl i højrisiko-sammenhænge. Læs mere i den originale undersøgelse.
