Forskning
Vad görett AI-systemförtroendevärtefter driftsättning?
Fyra områden, en fråga: vad måste gälla, tekniskt och institutionellt, innan ett AI-system kan förlitas på där det påverkar människor?
01 / Område
AI-assurans och ansvarsutkrävande
Vilket underlag om ett AI-system är tillräckligt för ett visst beslut, hos en viss roll, i en viss driftsättning?
Metoder
- Reproducerbar analys av offentliga handlingar
- Exekverbart resonemang om skyldigheter
- Bedömning av underlagets tillräcklighet
- Adversariell stresstestning
Utvalda arbeten
02 / Område
Integritetsbevarande samverkande AI
Vad måste gälla, tekniskt och institutionellt, för att federerad analys av känsliga dataset ska vara förtroendevärd och inte bara decentraliserad?
Metoder
- Federerad inlärning
- Differentiell integritet
- Granskning av attribution
- Styrningsdesign
Utvalda arbeten
03 / Område
Människocentrerade adaptiva system
Hur kan adaptiva och affektmedvetna system stödja lärande och välbefinnande utan att övertolka glesa, intima signaler?
Metoder
- Människa-datorinteraktion
- Tidsseriemodellering
- Affektiv databehandling
- Designbaserad forskning
Utvalda arbeten
- ArtikelData preprocessing and machine learning in wearable data analysis: assessing efficacy and challenges for mental health monitoring of healthcare professionals2024
- ArtikelThe Alternate Education for the 21st Century2019
- RapportCHI, a knowledge-sharing digital platform powered by machine learning2019
04 / Område
Datastyrning för system i allmänhetens tjänst
Hur bör offentliga institutioner styra data om människor som inte kan ge ett meningsfullt samtycke, och vad kräver det av systemen som byggs på dessa data?
Metoder
- Policyanalys
- Bedömning av institutionell kapacitet
- Jämförande styrningsöversikt
Utvalda arbeten
Forskningsprojekt
2025-
En assuranskedja för AI i drift
En sammanhängande uppsättning reproducerbara verktyg för deploymentberoende riskanalys, exekverbart regulatoriskt resonemang, bedömning av underlagets tillräcklighet och adversariell stresstestning.
2021-2024
Bärbara sensordata och vårdpersonals välbefinnande
Doktorandforskning om huruvida data från bärbara sensorer kan stödja bevakning av psykisk ohälsa hos vårdpersonal i frontlinjen, och var metoden brister.