PhD Defence: “Expliquer et justifier les systèmes de décisions algorithmiques”, Clément Henin, Amphitheater, Chappe Building, 13th of October 2021 at 15:00 PM

The defense will be held in the Amphitheater, Chappe Building, and will be streamed live here.

 

Title

Expliquer et justifier les systèmes de décisions algorithmiques

 

 

Abstract

Les systèmes décisionnels fondés sur un traitement algorithmique sont déjà présents dans de nombreux domaines et leur utilisation devrait encore s’accroître. Pour certains types d’applications, l’opacité de ces systèmes peut être un frein, voire un obstacle rédhibitoire, à leur utilisation. Dans cette thèse, nous nous intéressons à la production d’explications et de justifications en « boîte noire », c’est-à-dire sans accès au code du système de décision. L’avantage de cette démarche est de fournir des résultats qui peuvent s’appliquer à de nombreux systèmes, indépendamment de leur mode de fonctionnement. Notre première contribution est un système d’explications interactif, permettant à l’utilisateur de contrôler les propriétés de l’explication qui lui est fournie afin d’obtenir la plus adaptée à sa situation. La deuxième contribution propose une approche novatrice pour contester et justifier les résultats d’un algorithme. Ces approches théoriques ont donné lieu au développement de deux outils : IBEX et Algocate. Ces résultats théoriques sont confrontés au terrain au travers d’études utilisateurs, dont un travail mené sur l’algorithme Score Cœur utilisé pour l’attribution des greffons cardiaques. Cette étude combine des éléments sociologiques notamment sur l’appropriation par les acteurs de ce système de décision et le développement d’un outil d’explication et de justification adapté aux spécificités de Score Coeur.

 

 

Jury

  • Solnon, Christine, Professeure, INSA Lyon,
  • Amer-Yahia, Sihem, Directrice de recherche, LIG, Rapporteure
  • Gambs, Sébastien, Professeur, UQAM, Rapporteur
  • Jacquelinet, Christian, Médecin Spécialiste, Agence de la Biomédecine, Examinateur
  • Mabi, Clément, Maître de conférence, UTC Compiègne, Examinateur
  • Le Métayer, Daniel, Directeur de recherche, Inria, Co-Directeur de thèse
  • Castelluccia, Claude, Directeur de recherche, Inria, Co-directeur de thèse