Assurance et redevabilité de l'IA
Quelles preuves relatives à un système d'IA suffisent à une décision donnée, prise par une fonction donnée, dans un déploiement donné ?
Les affirmations portant sur un système d'IA devraient pouvoir être vérifiées par quelqu'un qui n'a pas participé à sa construction.
Most assurance work asks whether a model is good. That is the wrong unit. A model is not deployed, a system is, into an institution, for a decision, under a regulation, with someone accountable for the outcome. The same model can be adequately evidenced for one of those situations and badly evidenced for the next.
My work here builds methods and software that make that distinction operational: analysing risk as a function of deployment context, reasoning over regulatory obligations as executable statements rather than prose, and testing whether a body of audit evidence actually supports the decision it is offered for, including the cases where plausible-looking evidence does not.
Travaux choisis
- ArticleBA-FedSHAP: A reproducible toolkit for auditing background-induced attribution driftAuteur, SSRN2026
- Politiques publiquesAI in health: how smart technology is breaking new frontiers in medical careAuteur, Digital Skills and Jobs Platform, European Commission2026
- ProjetAn assurance toolchain for deployed AIAuteur2026
- LogicielCSA-Lite, Context-Sliced AI Assurance LiteAuteur2026
- LogicielLEXON-Bench, Executable AI Regulatory Obligation ReasoningAuteur2026
- LogicielRCEA Passport Engine, Role-Conditioned Evidentiary AdequacyAuteur2026
- LogicielProvena, reproducibility package for evidence-laundering stress testsAuteur2026
- LogicielBA-FedSHAP, auditing background-induced attribution driftAuteur2026
Projets de recherche
Une chaîne d'outils d'assurance pour l'IA déployée
Un ensemble cohérent d'outils reproductibles pour l'analyse du risque conditionnée au déploiement, le raisonnement réglementaire exécutable, l'évaluation de la suffisance des preuves et les tests de robustesse adverses.
Suivant / Territoire
IA collaborative préservant la vie privée