Gouvernance de l'IA · IHM · Systèmes préservant la vie privée
J'étudie comment les systèmes d'IA peuvent rester utiles, redevables et centrés sur l'humain lorsqu'ils passent du modèle à l'institution.
Mes travaux portent sur l'assurance de l'IA, l'apprentissage automatique préservant la vie privée, l'interaction humain-machine et la gouvernance des données des systèmes éducatifs, entre recherche, politiques internationales et logiciels déployés.
À venir Postdoctoral Researcher, Umeå University, Department of Computing Science · à partir du
Founder, AffectLog
Précédemment UNESCO, 2021-2025
Portrait à venir
Contexte
UNICEF Innocenti
En cours
Groupe consultatif d'experts · gouvernance des données des enfants
JA Institute
En cours
Conseiller · Research Advisory Council
Umeå University
à partir du septembre 2026 · à venir
Recherche postdoctorale · informatique
AffectLog
2025-
Fondateur · recherche et outils d'assurance de l'IA
Digital Skills and Jobs Platform (European Commission)
AI in Health: how smart technology is breaking new frontiers in medical care (deep-dive)
Deep-dive article authored by Roy Saurabh and published on the European Commission's Digital Skills and Jobs Platform, which identifies him as founder of AffectLog, working on trustworthy AI governance and assurance for regulated sectors including healthcare.
ORCID
ORCID record 0000-0003-3439-7731
Canonical researcher identifier and the list of registered works. Employment and biography entries on ORCID are self-asserted.
UNESCO
2021-2025
2018-2025 · enseignants, apprentissage numérique et gouvernance des données
UNESCO
Digital Learning Week 2023, provisional programme
Lists 'Mr Roy Saurabh, Senior Project Officer, Section for Teacher Development, UNESCO' as a discussant on the Norms and Standards panel, 4-7 September 2023.
Broadband Commission for Sustainable Development
Working Group on Data for Learning
States that the UNESCO team coordinating the working group, led by Borhene Chakroun, acted 'with support from Juliette Norrmén-Smith, Associate Project Officer, and Saurabh Roy, Senior Project Officer'.
UNESCO-ICHEI
Delegation from UNESCO-ICHEI visits UNESCO headquarters for bilateral talks
Names him in Chinese as 联合国教科文组织AI研究高级项目官员Roy Saurabh先生, Senior Project Officer for AI research, UNESCO, in a bilateral meeting of 5 September 2024 with UNESCO's Division for Policies and Lifelong Learning Systems.
ORCID
ORCID record 0000-0003-3439-7731
Canonical researcher identifier and the list of registered works. Employment and biography entries on ORCID are self-asserted.
Le fil conducteur
L'essentiel de mon travail se situe dans le passage entre ces trois niveaux, plutôt qu'à l'intérieur de l'un d'eux. Un résultat sur lequel les institutions ne peuvent pas agir, et une exigence qu'aucun système ne peut mettre en œuvre, échouent de la même manière.
Que pouvons-nous savoir ?
Quelles preuves et quelles garanties les institutions devraient-elles exiger ?
Comment ces exigences deviennent-elles opérationnelles ?
Recherche en cours
Les affirmations portant sur un système d'IA devraient pouvoir être vérifiées par quelqu'un qui n'a pas participé à sa construction.
Quelles preuves relatives à un système d'IA suffisent à une décision donnée, prise par une fonction donnée, dans un déploiement donné ?
Des institutions qui ne peuvent pas mettre leurs données sensibles en commun peuvent tout de même apprendre ensemble, à condition que la gouvernance soit construite avec la méthode.
Que faut-il établir, techniquement et institutionnellement, pour qu'une analyse fédérée sur des données sensibles soit digne de confiance et pas seulement décentralisée ?
Les systèmes qui s'adaptent aux personnes doivent être honnêtes sur le peu qu'ils savent de la personne qu'ils ont en face d'eux.
Comment les systèmes adaptatifs et sensibles aux affects peuvent-ils soutenir l'apprentissage et le bien-être sans surinterpréter des signaux rares et intimes ?
La gouvernance des données de l'éducation et des données des enfants détermine ce que la technologie a le droit de devenir.
Comment les institutions publiques devraient-elles gouverner les données de personnes qui ne peuvent pas consentir de façon éclairée, et qu'est-ce que cela exige des systèmes bâtis sur ces données ?
Travaux choisis
Six éléments, chacun relié à l'institution, au registre ou au document qui l'atteste.
Policy2025Author
Soutient que les États peuvent exploiter des données éducatives sensibles sans les centraliser, et précise la gouvernance que cela suppose.
UNICEF Innocenti, Office of Strategy and Evidence
UNICEF Innocenti
Federated learning for children's data: encoding trust in education systems
Article authored by Roy Saurabh and published by UNICEF Innocenti on 19 May 2025, listed among the outputs of the good-governance-of-children's-data project.
UNICEF Innocenti
Good governance of children's data, advisory groups
Names Roy Saurabh among the current expert advisory group members shaping the second phase of UNICEF Innocenti's children's data governance project.
Publications2024Author
Recherche doctorale sur ce que les données de capteurs portés permettent, et ne permettent pas, d'affirmer lorsque la question est le risque clinique.
Université Paris Cité
theses.fr
Thesis record s310267
Doctorate awarded by Université Paris Cité, defended 17 December 2024, in Mathematics and Computer Science, supervised by François Taddei and Harri Ketamo.
ABES
Thesis DOI record
Registers the thesis against ORCID 0000-0003-3439-7731 with affiliation Université Paris Cité, confirming that the indexed author name 'Saurabh Roy' is the same researcher.
Policy2026Author
Une analyse approfondie pour la plateforme de compétences de la Commission européenne : où l'IA clinique est réellement utile, et quelle assurance les soins réglementés doivent en exiger.
Digital Skills and Jobs Platform, European Commission, DG CNECT
Research software2026Author
Une méthode reproductible, fondée sur des documents publics, pour analyser le risque de l'IA en fonction du contexte de déploiement et non du seul modèle.
Reports2023Writing team
Rapport du groupe de travail de la Broadband Commission sur la gouvernance des données éducatives, rédigé par l'équipe de l'UNESCO appuyant le groupe.
Broadband Commission for Sustainable Development, ITU/UNESCO
Broadband Commission for Sustainable Development
The Transformative Potential of Data for Learning
Acknowledgements name the UNESCO writing team as Juliette Norrmén-Smith and Saurabh Roy, with contributions from Carmela Salzano, Patrick John Devaney and Wayne Holmes.
Broadband Commission for Sustainable Development
Working Group on Data for Learning
States that the UNESCO team coordinating the working group, led by Borhene Chakroun, acted 'with support from Juliette Norrmén-Smith, Associate Project Officer, and Saurabh Roy, Senior Project Officer'.
Research software2026Author
Demande si les preuves d'audit suffisent à la décision précise, et à la fonction précise, qui s'y appuie.
Politiques & conseil
Un rôle de conseil reste un rôle de conseil. Aucun de ces rôles n'est un emploi au sein de l'institution citée, et chacun renvoie à la trace qu'elle en garde elle-même.
Expert advisory groupEn cours
Office of Strategy and Evidence
Expert advisory group member, Good governance of children's data
L'un d'une vingtaine de membres conseillant la deuxième phase du projet de l'UNICEF Innocenti sur la gouvernance des données des enfants, qui couvre la gouvernance des données dans les technologies éducatives, une économie de la donnée équitable pour les enfants et les innovations en matière de gouvernance des données.
AdvisorEn cours
Advisor, Research Advisory Council
Membre du Research Advisory Council, sur les écosystèmes d'apprentissage et les technologies d'intérêt général.
Publications
2026
SSRN
Preprint on how the choice of background distribution alters federated attribution results, and what that does to an audit.
PublicationsAuthor
2024
Université Paris Cité
Recherche doctorale sur ce que les données de capteurs portés permettent, et ne permettent pas, d'affirmer lorsque la question est le risque clinique.
PublicationsAuthor
2019
2019 IEEE 18th International Conference on Cognitive Informatics & Cognitive Computing (ICCI*CC)
Early work connecting cognitive science and socio-emotional learning to digital pedagogy.
PublicationsCo-author
Logiciels
2026
Une méthode reproductible, fondée sur des documents publics, pour analyser le risque de l'IA en fonction du contexte de déploiement et non du seul modèle.
Research softwareAuthor
2026
A benchmark for reasoning over regulatory obligations as executable statements rather than prose.
Research softwareAuthor
2026
Demande si les preuves d'audit suffisent à la décision précise, et à la fonction précise, qui s'y appuie.
Research softwareAuthor
Trajectoire
Lue comme une carrière, elle en paraît plusieurs. Lue comme une ligne d'enquête, elle n'en forme qu'une, qui se rapproche peu à peu des institutions où ces systèmes atterrissent réellement.
2005-2014
Systèmes
Ingénierie des systèmes d'entreprise, puis conseil. Un travail de mise en œuvre, à une échelle où une décision technique devient un fait organisationnel.
2014-2018
Systèmes
Création d'entreprises et direction technique de plateformes de compétences et d'éducation, dont la technologie d'un programme national de développement des compétences. Première exposition durable à la mise en œuvre numérique dans le secteur public.
2018-2020
Systèmes
Directeur technique de l'UNESCO MGIEP, à construire des technologies d'apprentissage plaçant l'apprentissage automatique et l'apprentissage socio-émotionnel au centre. La question s'est déplacée : non plus si un système pouvait être construit, mais ce qu'il devait modéliser.
2020-2021
Recherche
Data scientist principal au Centre de Recherches Interdisciplinaires. Travailler directement sur des données intimes a fait des contraintes de confidentialité un problème de recherche, et non une étape de conformité.
2021-2025
Gouvernance
Chargé de projet principal à la Section du développement des enseignants de l'UNESCO : développement professionnel des enseignants, plateformes d'apprentissage numérique et gouvernance des données de l'éducation, dont l'équipe de rédaction de l'UNESCO pour les rapports de la Broadband Commission sur les données au service de l'apprentissage.
2024
Recherche
Doctorat en mathématiques et informatique à l'Université Paris Cité, sur l'apprentissage automatique à partir de données de capteurs portés pour le suivi de la santé mentale des professionnels de santé.
2025-
Gouvernance
Fondation d'AffectLog et construction d'outils reproductibles pour l'assurance de l'IA. Les travaux consultatifs avec l'UNICEF Innocenti sur la gouvernance des données des enfants maintiennent la recherche au contact d'une population qui en paie le prix lorsque la gouvernance échoue.
2026-
Recherche
Recherche postdoctorale au Département d'informatique de l'Université d'Umeå, à partir de septembre 2026.
Interventions
Invited lecture10 avril 2025
CITIC, Universidade da Coruña · A Coruña, Spain
Sur le traitement des données sensibles en santé et en éducation : où les approches fédérées aident, et quelle gouvernance doit être en place pour qu'elles aient un sens.
Panel moderator17 octobre 2024
Ninth community workshop on Explainable AI, European Education and Culture Executive Agency (EACEA) · Brussels, Belgium
Animation d'une table ronde sur la littératie en IA et l'esprit critique, avec Simona Petkova (DG EAC) et Romina Cachia (JRC, Commission européenne).
Écrits
AI governance18 août 2026Digital Skills and Jobs Platform
Où l'IA clinique est réellement utile, où elle est survendue, et quelle assurance un cadre de soins réglementé doit exiger avant de s'y fier.
Data governance19 mai 2025UNICEF Innocenti
Comment les États peuvent exploiter des données éducatives sensibles pour améliorer les résultats sans les centraliser, et ce que cela exige réellement en matière de gouvernance.
Learning systems1 janvier 2019UNESCO MGIEP
On building a platform that connects knowledge across an institute's work, and what machine learning could and could not do for it.
Je suis heureux d'échanger avec les chercheurs, les institutions et les équipes chargées des politiques publiques qui travaillent sur les mêmes questions.