Intervention de Danièle Obono

Il s'agit là d'un sujet que nous avons déjà évoqué au cours de la discussion.

L'objet du présent amendement est de faire en sorte que les algorithmes utilisés par les plateformes n'aient pas pour effet de perpétuer, de produire ou de renforcer des préjugés justifiant ou instituant des discriminations entre les personnes en raison de ce qu'elles sont. Notre objectif est d'obtenir une transparence des algorithmes afin de lutter contre d'éventuels biais.

Plusieurs études l'ont démontré : les grandes plateformes, dont nous faisons un usage quotidien, ne sont pas exemptes de discrimination structurelle, ancrée historiquement et socialement dans notre société.

La Commission nationale de l'informatique et des libertés, la CNIL, souligne, dans un rapport de 2017, que « tout algorithme est [… ], en un sens, biaisé, dans la mesure où il est toujours le reflet – à travers son paramétrage et ses critères de fonctionnement, ou à travers les données d'apprentissage qui lui ont été fournies – d'un système de valeurs et de choix de société. Le débat autour des biais et des discriminations qu'ils peuvent générer n'est donc qu'un miroir grossissant mettant en valeur cette caractéristique essentielle dans ce qu'elle a de plus problématique. »

À travers cet amendement, nous proposons donc de créer une obligation pour que les plateformes rendent publics les moyens qu'elles utilisent afin d'éviter que leurs algorithmes produisent des discriminations. Un tel outil permettrait aux usagers et aux usagères de faire directement des signalements et de veiller à ce que ces biais soient corrigés. Il nous semble que cela créerait un cercle vertueux pour les plateformes et que ce serait un facteur d'apprentissage pour les usagers.