Intervention de Danièle Obono

L'article 14 autorise un recours accru au profilage administratif et à l'utilisation d'algorithmes, notamment par les autorités publiques. Il s'agit de thématiques fondamentales pour les droits et libertés numériques. Aussi estimons-nous que les algorithmes utilisés dans la prise de décision publique doivent être soumis à un contrôle citoyen. Pour éviter les biais discriminants que peuvent introduire de nombreux algorithmes utilisés par les pouvoirs publics, nous considérons qu'un contrôle citoyen des algorithmes eux-mêmes doit être organisé avec les équipes d'inspection de la CNIL. Nous nous inspirons notamment des constats et conclusions du rapport sur les modalités de régulation des algorithmes de traitement des contenus remis à la secrétaire d'État chargée du numérique en mai 2016.

L'introduction de ce contrôle permettrait de compléter une première ouverture importante introduite par la loi pour une République numérique, qui a conféré un droit d'accès et d'information à la personne concernée par une décision individuelle prise sur la base d'un traitement algorithmique. Celle-ci peut demander à l'administration la communication des éléments suivants : le degré et le mode de contribution du traitement algorithmique à la prise de décision ; les données traitées et leurs sources ; les paramètres de traitement et, éventuellement, leur pondération, appliqués à la situation de l'intéressé ; les opérations effectuées par le traitement, conformément à l'article R. 311-3-1-2 du code des relations entre le public et l'administration, issu du décret du 14 mars 2017, applicable à compter du 1er septembre 2017.

Nous proposons donc, par cet amendement, de renforcer la capacité de tout citoyen, tout contribuable et tout administré de demander des comptes et de vérifier la nature des données et des algorithmes utilisés. Il me semble que cela participerait de la pédagogie numérique et de la nécessaire transparence concernant des décisions qui ont une incidence sur des questions privées, très importantes pour la vie de nos concitoyens et concitoyennes.