AI-assurans och ansvarsutkrävande
Vilket underlag om ett AI-system är tillräckligt för ett visst beslut, hos en viss roll, i en viss driftsättning?
Påståenden om ett AI-system bör kunna kontrolleras av någon som inte varit med och byggt det.
Most assurance work asks whether a model is good. That is the wrong unit. A model is not deployed, a system is, into an institution, for a decision, under a regulation, with someone accountable for the outcome. The same model can be adequately evidenced for one of those situations and badly evidenced for the next.
My work here builds methods and software that make that distinction operational: analysing risk as a function of deployment context, reasoning over regulatory obligations as executable statements rather than prose, and testing whether a body of audit evidence actually supports the decision it is offered for, including the cases where plausible-looking evidence does not.
Utvalda arbeten
- ArtikelBA-FedSHAP: A reproducible toolkit for auditing background-induced attribution driftFörfattare, SSRN2026
- PolicyAI in health: how smart technology is breaking new frontiers in medical careFörfattare, Digital Skills and Jobs Platform, European Commission2026
- ProjektAn assurance toolchain for deployed AIFörfattare2026
- ProgramvaraCSA-Lite, Context-Sliced AI Assurance LiteFörfattare2026
- ProgramvaraLEXON-Bench, Executable AI Regulatory Obligation ReasoningFörfattare2026
- ProgramvaraRCEA Passport Engine, Role-Conditioned Evidentiary AdequacyFörfattare2026
- ProgramvaraProvena, reproducibility package for evidence-laundering stress testsFörfattare2026
- ProgramvaraBA-FedSHAP, auditing background-induced attribution driftFörfattare2026
Forskningsprojekt
En assuranskedja för AI i drift
En sammanhängande uppsättning reproducerbara verktyg för deploymentberoende riskanalys, exekverbart regulatoriskt resonemang, bedömning av underlagets tillräcklighet och adversariell stresstestning.
Nästa / Område
Integritetsbevarande samverkande AI