Atelier “algorithmes en boite-noire”
Etat des lieux et réaction face à une exposition massive aux décisions algorithmiques.
Le 10 Octobre 2019 à Lyon
http://atelier-blackbox.conf.citi-lab.fr
Les technologies de l’information et de la communication transforment la
société. Les algorithmes sont au coeur de toutes les attentions: objets
industriels fondamentaux pour les entreprises, ils sont souvent perçus comme
des “boites-noires” par les utilisateurs confrontés à leurs décisions. Ce
constat ne va qu’en s’amplifiant avec le déploiement continu de solutions à
base d’apprentissage machine, dont les dernières avancées techniques
(réseaux de neurones profonds) fournissent des décisions qui sont
inexplicables par construction.
L’objectif de cet atelier est de questionner ces boites-noires, leur nature,
leur conception, et plus généralement leur impact sur leurs usagers et sur la
société. La visée pluridisciplinaire et transversale de l’atelier cherchera
par exemple à aborder des sujets tels que:
– Les biais de traitement des algorithmes, et les moyens de quantifier ce biais?
– L’implémentabilité de la notion de bien commun ?
– Quels outils et quelles métriques pour un audit citoyen des algorithmes ?
– Quelle responsabilité pour les concepteurs d’algorithmes opaques ?
– Les moyens pour l’utilisateur d’observer et d’appréhender les résultats des
algorithmes en boite-noire pour construire une compréhension.
– L’évolution de la société face au nombre grandissant de boites-noires à
visées décisionnelles automatiques, et le manque avéré d’explications des
décisions.
– Quelles notions d’éthique dans le développement courant de ces
boites-noires? Sont elles suffisantes et satisfaisantes ?
– Le traitement des données personnelles des utilisateurs, la notion de
consentement et celle de la compréhension. Comment exercer un contrôle
critique sur le traitement de nos données critiques ?
Intervenants (confirmés):
* Dominique CARDON (sociologue, directeur du Médialab de Sciences Po)
* Loup CELLARD (designer, doctorant au Centre for Interdisciplinary
Methodologies de l’University of Warwick, UK)
* Claude KIRCHNER (directeur de recherches émérite d’Inria, membre de
plusieurs comités liés à l’éthique)
* Claire MATHIEU (directrice de recherches CNRS, spécialiste des algorithmes
et chargée de mission Parcoursup)
* Antoinette ROUVROY (Juriste et philosophe du droit, professeure à
l’université de Namur et chercheuse au FNRS, Belgique)
* Félix TREGUER (membre de la Quadrature du Net et chercheur au Centre
Internet et Société du CNRS et au CERI de Sciences Po)
Le programme courant est disponible ici :
http://atelier-blackbox.conf.citi-lab.fr
Localisation : Les Halles du Faubourg – 10 Impasse des Chalets, 69007 Lyon
Inscription (gratuite) : http://atelier-blackbox.conf.citi-lab.fr/inscription/