IA collaborative préservant la vie privée

Que faut-il établir, techniquement et institutionnellement, pour qu'une analyse fédérée sur des données sensibles soit digne de confiance et pas seulement décentralisée ?

Plusieurs institutions entraînent chacune un modèle sur des données qui ne les quittent jamais. Seules les mises à jour du modèle circulent vers un modèle partagé, puis en reviennent.

Des institutions qui ne peuvent pas mettre leurs données sensibles en commun peuvent tout de même apprendre ensemble, à condition que la gouvernance soit construite avec la méthode.

Federated learning is often presented as a privacy guarantee. It is better understood as a change in where the risk sits. Moving computation to the data removes one exposure and introduces others: attribution that shifts with modelling choices, updates that leak, and a governance question about who is accountable when no single party holds the dataset.

I work on both halves of that, the technical behaviour of federated methods under audit, and the institutional arrangements that make a federation legible to a regulator or a ministry.

Travaux choisis

Suivant / Territoire

Systèmes adaptatifs centrés sur l'humain