Roy Saurabh

Roy Saurabh är forskare och arbetar i gränslandet mellan AI-system och de institutioner som styr hur de används. Hans nuvarande arbete rör AI-assurans: att bygga reproducerbara metoder och programvara som gör underlag om AI-system granskningsbara i stället för enbart påstådda, med särskild uppmärksamhet på integritetsbevarande och federerade metoder där data inte kan centraliseras. Han är doktor i matematik och datavetenskap från Université Paris Cité, med avhandling försvarad i december 2024 om maskininlärning från bärbara sensorer för att följa vårdpersonals psykiska hälsa. Innan han återvände till forskning på heltid arbetade han sju år vid Unesco med lärandeteknik, lärares kompetensutveckling och datastyrning inom utbildning, och ingick i Unescos skrivgrupp för Broadband Commissions rapport om data för lärande. Han sitter i Unicef Innocentis expertrådgivande grupp om styrning av barns data och är rådgivare åt JA Institute.

• AI-assurans och ansvarsutkrävande, Påståenden om ett AI-system bör kunna kontrolleras av någon som inte varit med och byggt det.
• Integritetsbevarande samverkande AI, Institutioner som inte kan samla sina känsliga data kan ändå lära tillsammans, om styrningen byggs jämsides med metoden.
• Människocentrerade adaptiva system, System som anpassar sig efter människor behöver vara ärliga om hur lite de vet om personen framför sig.
• Datastyrning för system i allmänhetens tjänst, Styrningen av utbildningsdata och barns data avgör vad tekniken tillåts bli.

1. Roy, S. (2026). BA-FedSHAP: A reproducible toolkit for auditing background-induced attribution drift [Preprint]. SSRN. https://doi.org/10.2139/ssrn.6864992
2. Roy, S. (2024). Data preprocessing and machine learning in wearable data analysis: Assessing efficacy and challenges for mental health monitoring of healthcare professionals [Doctoral dissertation, Université Paris Cité]. https://doi.org/10.70675/bdabcabdz273cz4ff3z8b79zc9434acdf00d
3. Roy, S., Singh, N. C., & Duraiappah, A. K. (2019). The alternate education for the 21st century. In 2019 IEEE 18th International Conference on Cognitive Informatics & Cognitive Computing (ICCI*CC) (pp. 265-271). IEEE. https://doi.org/10.1109/ICCICC46617.2019.9146061

1. Roy, S. (2026). CSA-Lite: Context-Sliced AI Assurance Lite (Version 0.2.2) [Computer software]. Zenodo. https://doi.org/10.5281/zenodo.20403165
2. Roy, S. (2026). LEXON-Bench: Executable AI regulatory obligation reasoning [Computer software]. Zenodo. https://doi.org/10.5281/zenodo.20397383
3. Roy, S. (2026). RCEA Passport Engine: Role-conditioned evidentiary adequacy reference implementation (Version 0.1.1) [Computer software]. Zenodo. https://doi.org/10.5281/zenodo.20384669
4. Roy, S. (2026). Provena: Reproducibility package for evidence-laundering stress tests [Computer software]. Zenodo. https://doi.org/10.5281/zenodo.20376679
5. Roy, S. (2026). BA-FedSHAP: A reproducible toolkit for auditing background-induced attribution drift [Computer software]. Zenodo. https://doi.org/10.5281/zenodo.20356218

1. AI in health: how smart technology is breaking new frontiers in medical care (2026). European Commission (DG CNECT). Roll: Author.
2. Federated learning for children's data: encoding trust in education systems (2025). UNICEF Innocenti. Roll: Author.
3. The Transformative Potential of Data for Learning (2023). ITU/UNESCO. Roll: Writing team.
4. The Transformative Potential of Data for Learning, interim report (2022). ITU/UNESCO. Roll: Writing team.
5. CHI, a knowledge-sharing digital platform powered by machine learning (2019). UNESCO MGIEP. Roll: Author.