Les technologies de l’information et de la communication transforment la
société. Les algorithmes sont au coeur de toutes les attentions: objets
industriels fondamentaux pour les entreprises, ils sont souvent perçus
comme des “boites-noires” par les utilisateurs confrontés à leurs
décisions. Ce constat ne va qu’en s’amplifiant avec le déploiement
continu de solutions à base d’apprentissage machine, dont les dernières
avancées techniques (réseaux de neurones profonds) fournissent des
décisions qui sont inexplicables par construction.
L’objectif de cet atelier est de questionner ces boites-noires, leur
nature, leur conception, et plus généralement leur impact sur leurs
usagers et sur la société. La visée pluridisciplinaire et transversale
de l’atelier cherchera par exemple à aborder des sujets tels que:
– Les biais de traitement des algorithmes, et les moyens de quantifier
ce biais?
– L’implémentabilité de la notion de bien commun ?
– Quels outils et quelles métriques pour un audit citoyen des algorithmes ?
– Quelle responsabilité pour les concepteurs d’algorithmes opaques ?
– Les moyens pour l’utilisateur d’observer et d’appréhender les
résultats des algorithmes en boite-noire pour construire une compréhension.
– L’évolution de la société face au nombre grandissant de boites-noires
à visées décisionnelles automatiques, et le manque avéré d’explications
des décisions.
– Quelles notions d’éthique dans le développement courant de ces
boites-noires? Sont elles suffisantes et satisfaisantes ?
– Le traitement des données personnelles des utilisateurs, la notion de
consentement et celle de la compréhension. Comment exercer un contrôle
critique sur le traitement de nos données critiques ?
Intervenants (confirmés):
* Dominique CARDON (sociologue, directeur du Médialab de Sciences Po)
* Loup CELLARD (designer, doctorant au Centre for Interdisciplinary
Methodologies de l’University of Warwick, UK)
* Claude KIRCHNER (directeur de recherches émérite d’Inria, membre de
plusieurs commités liés à l’éthique)
* Claire MATHIEU (directrice de recherches CNRS, spécialiste des
algorithmes et chargée de mission Parcoursup)
* Antoinette ROUVROY (Juriste et philosophe du droit, professeure à
l’université de Namur et chercheuse au FNRS, Belgique)
* Félix TREGUER (Membre LQDN, chercheur associé au Centre Internet et
Société du CNRS, post-doctorant au CERI-Sciences Po)
Le programme courant est disponible ici :
http://atelier-blackbox.conf.citi-lab.fr
Localisation : Les Halles du Faubourg – 10 Impasse des Chalets, 69007 Lyon
Inscription (gratuite) :
http://atelier-blackbox.conf.citi-lab.fr/inscription/
