Aller au contenu
Roy Saurabh

Recherche

Ce que j'étudie, et ce qui en fait un ensemble

Quatre domaines. Ils partagent une question : que faut-il établir, techniquement et institutionnellement, pour qu'un système d'IA puisse être utilisé là où il affecte des personnes ?

  1. 01

    Assurance et redevabilité de l'IA

    Les affirmations portant sur un système d'IA devraient pouvoir être vérifiées par quelqu'un qui n'a pas participé à sa construction.

    Quelles preuves relatives à un système d'IA suffisent à une décision donnée, prise par une fonction donnée, dans un déploiement donné ?

    7 productions associées
    • AI assurance
    • Regulation
    • Reproducibility
  2. 02

    IA collaborative préservant la vie privée

    Des institutions qui ne peuvent pas mettre leurs données sensibles en commun peuvent tout de même apprendre ensemble, à condition que la gouvernance soit construite avec la méthode.

    Que faut-il établir, techniquement et institutionnellement, pour qu'une analyse fédérée sur des données sensibles soit digne de confiance et pas seulement décentralisée ?

    3 productions associées
    • Federated learning
    • Privacy
    • AI assurance
  3. 03

    Systèmes adaptatifs centrés sur l'humain

    Les systèmes qui s'adaptent aux personnes doivent être honnêtes sur le peu qu'ils savent de la personne qu'ils ont en face d'eux.

    Comment les systèmes adaptatifs et sensibles aux affects peuvent-ils soutenir l'apprentissage et le bien-être sans surinterpréter des signaux rares et intimes ?

    4 productions associées
    • HCI
    • Learning sciences
    • Mental health
  4. 04

    Gouvernance des données d'intérêt général

    La gouvernance des données de l'éducation et des données des enfants détermine ce que la technologie a le droit de devenir.

    Comment les institutions publiques devraient-elles gouverner les données de personnes qui ne peuvent pas consentir de façon éclairée, et qu'est-ce que cela exige des systèmes bâtis sur ces données ?

    3 productions associées
    • Data governance
    • Children's data
    • Education

Projets

Projets de recherche

Author2025-

Une chaîne d'outils d'assurance pour l'IA déployée

Un ensemble cohérent d'outils reproductibles pour l'analyse du risque conditionnée au déploiement, le raisonnement réglementaire exécutable, l'évaluation de la suffisance des preuves et les tests de robustesse adverses.

AffectLog

Doctoral research2021-2024

Données de capteurs portés et bien-être des soignants

Recherche doctorale sur la capacité des données de capteurs portés à soutenir le suivi du risque de santé mentale chez les soignants de première ligne, et sur les limites de la méthode.

Université Paris Cité