Roy Saurabh

Roy Saurabh est un chercheur qui travaille à la frontière entre les systèmes d'IA et les institutions qui en encadrent l'usage. Ses travaux actuels portent sur l'assurance de l'IA : concevoir des méthodes reproductibles et des logiciels qui rendent vérifiables, plutôt que simplement affirmées, les preuves relatives aux systèmes d'IA, avec une attention particulière aux approches fédérées et préservant la vie privée, lorsque les données ne peuvent pas être centralisées. Il est docteur en mathématiques et informatique de l'Université Paris Cité, thèse soutenue en décembre 2024, sur l'apprentissage automatique à partir de données de capteurs portés pour le suivi de la santé mentale des professionnels de santé. Avant de revenir à la recherche à plein temps, il a passé sept ans à l'UNESCO, où il a travaillé sur les technologies éducatives, le développement professionnel des enseignants et la gouvernance des données de l'éducation, et a fait partie de l'équipe de rédaction de l'UNESCO pour le rapport de la Broadband Commission sur les données au service de l'apprentissage. Il siège au groupe consultatif d'experts de l'UNICEF Innocenti sur la gouvernance des données des enfants et est conseiller auprès du JA Institute.

• Assurance et redevabilité de l'IA, Les affirmations portant sur un système d'IA devraient pouvoir être vérifiées par quelqu'un qui n'a pas participé à sa construction.
• IA collaborative préservant la vie privée, Des institutions qui ne peuvent pas mettre leurs données sensibles en commun peuvent tout de même apprendre ensemble, à condition que la gouvernance soit construite avec la méthode.
• Systèmes adaptatifs centrés sur l'humain, Les systèmes qui s'adaptent aux personnes doivent être honnêtes sur le peu qu'ils savent de la personne qu'ils ont en face d'eux.
• Gouvernance des données d'intérêt général, La gouvernance des données de l'éducation et des données des enfants détermine ce que la technologie a le droit de devenir.

1. Roy, S. (2026). BA-FedSHAP: A reproducible toolkit for auditing background-induced attribution drift [Preprint]. SSRN. https://doi.org/10.2139/ssrn.6864992
2. Roy, S. (2024). Data preprocessing and machine learning in wearable data analysis: Assessing efficacy and challenges for mental health monitoring of healthcare professionals [Doctoral dissertation, Université Paris Cité]. https://doi.org/10.70675/bdabcabdz273cz4ff3z8b79zc9434acdf00d
3. Roy, S., Singh, N. C., & Duraiappah, A. K. (2019). The alternate education for the 21st century. In 2019 IEEE 18th International Conference on Cognitive Informatics & Cognitive Computing (ICCI*CC) (pp. 265-271). IEEE. https://doi.org/10.1109/ICCICC46617.2019.9146061

1. Roy, S. (2026). CSA-Lite: Context-Sliced AI Assurance Lite (Version 0.2.2) [Computer software]. Zenodo. https://doi.org/10.5281/zenodo.20403165
2. Roy, S. (2026). LEXON-Bench: Executable AI regulatory obligation reasoning [Computer software]. Zenodo. https://doi.org/10.5281/zenodo.20397383
3. Roy, S. (2026). RCEA Passport Engine: Role-conditioned evidentiary adequacy reference implementation (Version 0.1.1) [Computer software]. Zenodo. https://doi.org/10.5281/zenodo.20384669
4. Roy, S. (2026). Provena: Reproducibility package for evidence-laundering stress tests [Computer software]. Zenodo. https://doi.org/10.5281/zenodo.20376679
5. Roy, S. (2026). BA-FedSHAP: A reproducible toolkit for auditing background-induced attribution drift [Computer software]. Zenodo. https://doi.org/10.5281/zenodo.20356218

1. AI in health: how smart technology is breaking new frontiers in medical care (2026). European Commission (DG CNECT). Rôle: Author.
2. Federated learning for children's data: encoding trust in education systems (2025). UNICEF Innocenti. Rôle: Author.
3. The Transformative Potential of Data for Learning (2023). ITU/UNESCO. Rôle: Writing team.
4. The Transformative Potential of Data for Learning, interim report (2022). ITU/UNESCO. Rôle: Writing team.
5. CHI, a knowledge-sharing digital platform powered by machine learning (2019). UNESCO MGIEP. Rôle: Author.