Aller au contenu
Roy Saurabh

Recherche

Qu'est-ce qui rendun système d'IAdigne de confianceaprès son déploiement ?

Quatre territoires, une question : que faut-il établir, techniquement et institutionnellement, pour qu'on puisse se fier à un système d'IA là où il affecte des personnes ?

Illustratif. Des fragments de preuve passent quatre contrôles : contexte, obligation, adéquation et résistance. Certains sont écartés avant qu'un jugement d'assurance ne soit formé.

01 / Territoire

Assurance et redevabilité de l'IA

Quelles preuves relatives à un système d'IA suffisent à une décision donnée, prise par une fonction donnée, dans un déploiement donné ?

Méthodes

  • Analyse reproductible de documents publics
  • Raisonnement exécutable sur les obligations
  • Évaluation de la suffisance des preuves
  • Tests de robustesse adverses

Travaux choisis

Lire le territoire en entier
Illustratif. Plusieurs institutions entraînent chacune un modèle sur des données qui ne les quittent jamais. Seules les mises à jour du modèle circulent vers un modèle partagé, puis en reviennent.

02 / Territoire

IA collaborative préservant la vie privée

Que faut-il établir, techniquement et institutionnellement, pour qu'une analyse fédérée sur des données sensibles soit digne de confiance et pas seulement décentralisée ?

Méthodes

  • Apprentissage fédéré
  • Confidentialité différentielle
  • Audit des attributions
  • Conception de la gouvernance

Travaux choisis

Lire le territoire en entier
Illustratif. Une boucle entre une personne, une interface et un modèle adaptatif. L'image que le modèle se fait de la personne est toujours plus sommaire que la personne.

03 / Territoire

Systèmes adaptatifs centrés sur l'humain

Comment les systèmes adaptatifs et sensibles aux affects peuvent-ils soutenir l'apprentissage et le bien-être sans surinterpréter des signaux rares et intimes ?

Méthodes

  • Interaction humain-machine
  • Modélisation de séries temporelles
  • Informatique affective
  • Recherche fondée sur la conception

Travaux choisis

Lire le territoire en entier
Illustratif. Un graphe de responsabilités : personnes concernées, écoles, ministères et plateformes, reliés par des autorisations qui déterminent quels systèmes peuvent être construits.

04 / Territoire

Gouvernance des données d'intérêt général

Comment les institutions publiques devraient-elles gouverner les données de personnes qui ne peuvent pas consentir de façon éclairée, et qu'est-ce que cela exige des systèmes bâtis sur ces données ?

Méthodes

  • Analyse des politiques publiques
  • Évaluation des capacités institutionnelles
  • Revue comparative de la gouvernance

Travaux choisis

Lire le territoire en entier

Projets de recherche