Hoppa till innehåll
Roy Saurabh

AI-styrning · MDI · Integritetsbevarande system

Roy Saurabh

Jag forskar om hur AI-system kan förbli användbara, ansvarsutkrävbara och människocentrerade när de går från modell till institution.

Mitt arbete omfattar AI-assurans, integritetsbevarande maskininlärning, människa-datorinteraktion och datastyrning i utbildningssystem, mellan forskning, internationell policy och programvara i drift.

Tillträdande Postdoctoral Researcher, Umeå University, Department of Computing Science · från

Founder, AffectLog

Tidigare UNESCO, 2021-2025

Utforska forskningenSe utvalda arbeten
ORCID 0000-0003-3439-7731CV

Sammanhang

Mellan forskning, policy och genomförande

  • UNICEF Innocenti

    Pågående

    Expertrådgivande grupp · styrning av barns data

    UNICEF Innocenti, Good governance of children's data, advisory groups, öppnas i en ny flik

  • JA Institute

    Pågående

    Rådgivare · Research Advisory Council

    JA Institute, Research Advisory Council, advisor profile, öppnas i en ny flik

  • Umeå University

    från september 2026 · tillträdande

    Postdoktoral forskning · datavetenskap

  • AffectLog

    2025-

    Grundare · forskning och verktyg för AI-assurans

  • UNESCO

    2021-2025

    2018-2025 · lärarutveckling, digitalt lärande och datastyrning

Den röda tråden

Forskning, styrning och system är ett och samma problem

Det mesta av mitt arbete ligger i rörelsen mellan dessa tre, snarare än inuti något av dem. Ett resultat som institutioner inte kan agera på, och ett krav som inget system kan uppfylla, misslyckas på samma sätt.

  1. Forskning

    Vad kan vi veta?

  2. Styrning

    Vilka underlag och skyddsåtgärder bör institutioner kräva?

  3. System

    Hur blir dessa krav operativa?

Pågående forskning

All forskning

Fyra frågor jag arbetar med

AI-assurans och ansvarsutkrävande

Påståenden om ett AI-system bör kunna kontrolleras av någon som inte varit med och byggt det.

Vilket underlag om ett AI-system är tillräckligt för ett visst beslut, hos en viss roll, i en viss driftsättning?

  • AI assurance
  • Regulation
  • Reproducibility

Integritetsbevarande samverkande AI

Institutioner som inte kan samla sina känsliga data kan ändå lära tillsammans, om styrningen byggs jämsides med metoden.

Vad måste gälla, tekniskt och institutionellt, för att federerad analys av känsliga dataset ska vara förtroendevärd och inte bara decentraliserad?

  • Federated learning
  • Privacy
  • AI assurance

Människocentrerade adaptiva system

System som anpassar sig efter människor behöver vara ärliga om hur lite de vet om personen framför sig.

Hur kan adaptiva och affektmedvetna system stödja lärande och välbefinnande utan att övertolka glesa, intima signaler?

  • HCI
  • Learning sciences
  • Mental health

Datastyrning för system i allmänhetens tjänst

Styrningen av utbildningsdata och barns data avgör vad tekniken tillåts bli.

Hur bör offentliga institutioner styra data om människor som inte kan ge ett meningsfullt samtycke, och vad kräver det av systemen som byggs på dessa data?

  • Data governance
  • Children's data
  • Education

Utvalda arbeten

Alla arbeten

Utvalda arbeten, med underlaget bifogat

Sex poster, var och en länkad till den institution, det register eller det dokument som styrker den.

Policy2025Author

Federated learning for children's data: encoding trust in education systems

Hävdar att stater kan använda känsliga utbildningsdata utan att centralisera dem, och vilken styrning det kräver.

UNICEF Innocenti, Office of Strategy and Evidence

Publications2024Author

Data preprocessing and machine learning in wearable data analysis: assessing efficacy and challenges for mental health monitoring of healthcare professionals

Doktorandforskning om vad data från bärbara sensorer kan och inte kan bära när frågan är klinisk risk.

Université Paris Cité

Reports2023Writing team

The Transformative Potential of Data for Learning

Broadband Commissions arbetsgruppsrapport om styrning av utbildningsdata, skriven av det Unesco-team som stödde gruppen.

Broadband Commission for Sustainable Development, ITU/UNESCO

Policy & rådgivning

Allt policyarbete

Där forskningen möter institutionella beslut

Ett rådgivande uppdrag är ett rådgivande uppdrag. Inget av dem är en anställning vid den nämnda institutionen, och vart och ett länkar till institutionens egen dokumentation av det.

Expert advisory groupPågående

UNICEF Innocenti

Office of Strategy and Evidence

Expert advisory group member, Good governance of children's data

En av ett tjugotal medlemmar som rådger den andra fasen av Unicef Innocentis projekt om styrning av barns data, vilket omfattar datastyrning inom utbildningsteknik, en rättvis dataekonomi för barn och innovationer inom datastyrning.

UNICEF Innocenti, Good governance of children's data, advisory groups, öppnas i en ny flik

Publikationer

Vetenskapliga publikationer

2019

The Alternate Education for the 21st Century

2019 IEEE 18th International Conference on Cognitive Informatics & Cognitive Computing (ICCI*CC)

Early work connecting cognitive science and socio-emotional learning to digital pedagogy.

PublicationsCo-author

Alla publikationer

Programvara

Forskningsprogramvara

All forskningsprogramvara

Utveckling

Hur frågan förändrades

Läst som en karriär ser det ut som flera. Läst som en undersökningslinje är det en enda, som stadigt närmar sig de institutioner där dessa system faktiskt landar.

  1. 2005-2014

    System

    Stora system, och vad de gör med människorna inuti dem

    Systemteknik för företag och därefter konsultarbete. Arbetet var genomförande, i en skala där ett tekniskt beslut blir ett organisatoriskt faktum.

  2. 2014-2018

    System

    Utbildningsinfrastruktur i nationell skala

    Grundande och teknisk ledning för kompetens- och utbildningsplattformar, inklusive tekniken för ett nationellt kompetensutvecklingsprogram. Första längre mötet med offentlig digital leverans.

  3. 2018-2020

    System

    Från att leverera plattformar till att fråga vad lärandet behöver

    Teknisk chef vid Unesco MGIEP, med uppgift att bygga lärandeteknik med maskininlärning och socioemotionellt lärande i centrum. Frågan förflyttades från om ett system kunde byggas till vad det borde modellera.

  4. 2020-2021

    Forskning

    Maskininlärning från känsliga mänskliga data

    Ledande dataforskare vid Centre de Recherches Interdisciplinaires. Att arbeta direkt med intima data gjorde integritetsvillkoren till ett forskningsproblem snarare än ett efterlevnadssteg.

  5. 2021-2025

    Styrning

    Hur underlag färdas in i policy, och vad som går förlorat på vägen

    Senior projektansvarig vid Unescos sektion för lärarutveckling: lärares kompetensutveckling, digitala lärplattformar och datastyrning inom utbildning, inklusive Unescos skrivgrupp för Broadband Commissions rapporter om data för lärande.

  6. 2024

    Forskning

    Avhandlingen försvarad

    Doktorsexamen i matematik och datavetenskap vid Université Paris Cité, om maskininlärning från bärbara sensorer för att följa vårdpersonals psykiska hälsa.

  7. 2025-

    Styrning

    Att göra assuransunderlag granskningsbart

    Grundandet av AffectLog och byggandet av reproducerbara verktyg för AI-assurans. Det rådgivande arbetet med Unicef Innocenti om styrning av barns data håller forskningen nära en grupp som bär kostnaden när styrningen brister.

  8. 2026-

    Forskning

    Adaptiva insatser och livslångt lärande

    Postdoktoral forskning vid Institutionen för datavetenskap, Umeå universitet, från september 2026.

Föredrag

Alla föredrag

Utvalda föredrag och offentligt engagemang

Invited lecture10 april 2025

Integrating Federated Learning with Data Governance Frameworks for Collaborative and Secure Analysis of Sensitive Data

CITIC, Universidade da Coruña · A Coruña, Spain

Om hantering av känsliga data inom hälsa och utbildning: var federerade metoder hjälper, och vilken styrning som måste finnas på plats för att de ska betyda något.

CITIC, Universidade da Coruña, Roy Saurabh highlights federated learning as key to a more ethical and secure AI in his talk at CITIC of UDC, öppnas i en ny flik

Texter

Alla texter

Anteckningar och essäer

Forskning, samarbete och inbjudna samtal

Jag hör gärna från forskare, institutioner och policyteam som arbetar med samma frågor.

roy@affectlog.com

Kontaktuppgifter

Särskilt intresserad av

Akademiskt samarbete
Gemensam forskning om AI-assurans, federerade metoder eller datastyrning.
Policy- och standardiseringsarbete
Rådgivande grupper, kunskapsöversikter och institutionell kapacitetsuppbyggnad.
Inbjudna föredrag och undervisning
Föreläsningar, seminarier, paneler och forskarutbildning.
Forskningspartnerskap
Programkonsortier och partnerskap som rör assurans eller integritetsbevarande analys.