15 octobre 2018 / de La Fondation Internet Nouvelle Génération (auteur invité)

Cet article a été rédigé par l’équipe Nos Systèmes de la Fing : Hubert Guillaud et Thierry Marcou. Merci à la Fing, Simon Chignard et Loup Cellard pour l’animation de cet atelier !

Construire des algorithmes publics exemplaires, la mission Fing-Etalab est lancée avec un premier terrain : les algorithmes développés par les entrepreneurs d’intérêt général

La Fing animait le 26 septembre dernier son premier atelier NosSystèmes, organisé dans le cadre de sa mission avec Etalab, avec comme sujet la question de l’exemplarité et de la responsabilité sociale des algorithmes publics. Ce sujet d’exploration fait écho aux dispositions de la loi pour une République numérique sur la transparence et l’explicabilité des algorithmes et à des chantiers de médiation autour des algorithmes réalisés au sein d’Etalab (taxe d’habitation, calculette impôt, APB).

Plusieurs projets projets du programme Entrepreneur.e d’Intérêt Général ont participé comme DataESR, Hopkins, Signaux faibles, OpenChronic ou LabSanté, ainsi que des partenaires de la Fing comme Orange, EDF et La Poste.

Il s’agissait pour nous de la première vraie séance de travail avec les entrepreneurs d’intérêt général. Afin de mieux les connaître, nous avions organisé cet atelier autour de trois questionnaires :

  • Le premier, Portraits croisés, interrogeait les participants sur leur capacité à répondre à leurs obligations légales en matière d’information sur les traitements algorithmiques qu’ils mettent en oeuvre.
  • Le deuxième creusait la question des formes de médiations mises, ou pas, en oeuvre pour dialoguer avec les personnes physiques ou morales soumises à leurs algorithmes.
  • Le dernier explorait les différentes stratégies d’explication des traitements algorithmiques.

Atelier ensemble Les EIG, les partenaires de la Fing et Etalab participent au questionnaire.

Ces questionnaires n’avaient pas de prétention scientifique, notre principal objectif était de susciter le débat et les échanges pendant l’atelier, et de ce point de vue ce fut un succès !

Rapport d’étonnement

Voici quelques retours issus de nos échanges.

Faut-il distinguer finalité du calcul ou du traitement d’un côté, et finalité du service de l’autre ? La finalité du service de Signaux faibles est de prédire plus tôt les défaillances d’entreprise, celle du traitement algorithmique mis en oeuvre est de réaliser un scoring. La solution provisoire trouvée a été de préciser les choses, par exemple en distinguant finalité du service et finalité de l’algorithme, voire en réservant finalité pour le service, et fonctionnalité pour l’algorithme. Le dialogue non-technique avec la technique que nous appelons de nos voeux ne peut que se nourrir de ce type de débat.

Un système algorithmique s’adresse à au moins deux publics différents. Ceux qu’ils calculent bien sur, mais aussi ceux qui l’utilisent dans le cadre plus général de leur mission. Nous devrons approfondir ces deux notions, ce qui leur est commun et ce qui ne l’est pas.

  • C’est la DIRECCTE de la région Bourgogne-Franche-Comté qui bénéficie de l’algorithme de scoring de Signaux Faibles, ce sont les entreprises qui sont les “calculées”.
  • Il y a des algorithmes qui ne sont pas concernés par la loi, parce qu’ils n’aboutissent pas à des traitements individuels comme DataESR, et qu’ils n’ont pas de calculés mais des usagers « internes ». Ce sont des algorithmes de “process”. Encore faut-il être capable de l’expliquer en interne. L’explicabilité n’est pas seulement due aux calculés mais aussi aux usagers, qui ne sont pas que les usagers finaux, mais peuvent être par exemples des autorités de contrôle, donneurs d’ordre, etc.

Matrice exemplarité Une première matrice d’exemplarité des algorithmes publics : responsabilité par la médiation, explicabilité, jouabilité, symétrie, justiciabilité.

Des réponses surprenantes parfois, par exemple lorsqu’on se déclare « jouable » parce que le code source est ouvert. C’est un vieux débat, qui trouve sans doute avec le sujet des algorithmes une nouvelle jeunesse.

  • Oui l’ouverture du code permet aux chercheurs, aux hackers et autres collectifs citoyens d’avancer dans la compréhension des systèmes algorithmes et la détection de leurs failles.
  • Non, l’ouverture du code ne suffit pas, la marche à monter restant beaucoup trop haute pour une très grande majorité de calculés et d’usagers.
  • Et d’ailleurs, est ce qu’on ne se focalise pas un peu trop sur les algorithmes et pas assez sur les données ? Même si une majorité des participants indiquent fournir les informations sur les sources des données utilisées, il y a certainement des pistes à explorer pour apporter plus de précisions sur leur nature, la manière dont elles ont été choisies, triées ou nettoyées.

Prochaine étape : une semaine de Design Intensif avec les écoles Boulle et ENS-Cachan

Ce premier atelier va bien sur nourrir l’étape suivante, qui prendra la forme d’un atelier de “Design Intensif” avec les écoles Boulle et ENS-Cachan. Voici l’argument transmis aux élèves :

“Les systèmes de traitement automatisés se disséminent dans de plus en plus de services publics, à l’exemple des services des défis portés par le programme Entrepreneur.e d’intérêt général (EIG). Ces systèmes techniques, qu’ils s’adressent au grand public ou aux services de l’Etat doivent néanmoins répondre à des obligations légales multiples quels que soient les usagers auxquels ils s’adressent. Comment rendre ces services exemplaires ? Comment faire qu’ils expliquent leurs finalités clairement à leurs publics ? Comment améliorer leurs modalités pour mieux répondre aux demandes des publics qu’ils calculent ? Comment améliorer leur jouabilité, leur justiciabilité, leur responsabilité ? “

L’enjeu de ce workshop est bien de confronter des services publics innovants en construction avec des propositions de jeunes designers pour améliorer leur impact social.

Nous recherchons donc pour cette prochaine étape des projets EIG volontaires et d’autres projets liés à des algorithmes publics pour exposer en détail leurs projets aux étudiants, répondre à leurs questions et dessiner avec eux les orientations et perspectives qu’ils exploreront pendant ces dix jours. Ce sont 20 étudiants (12 de l’école Boulle, 8 de l’ENS-Cachan) et leurs professeurs qui seront mobilisés pour vous.

Le calendrier de cet atelier “Design Intensif” est le suivant :

  • L’atelier aura lieu du 7 au 16 novembre 2018, dans les locaux de l’Ecole Boulle à Paris
  • Au préalable la Fing présentera aux élèves les enjeux et objectifs de l’atelier, le vendredi 26 octobre
  • Mercredi 7 novembre, 9h-13h, Ecole Boulle : Pitch des projets devant les étudiants
  • Vendredi 16 novembre, 9h-13h : restitutions des propositions et prototypes réalisés par les élèves

N’hésitez pas à nous contacter très rapidement si vous souhaitez être candidat ! Les délais sont un peu courts. Mais travailler avec des étudiants est toujours très rafraîchissant !

Lien vers la présentation réalisée le 26 septembre 2018

Contacts :