Intervention de Ugo Bernalicis

Vous nous dites que la manière dont sont construits les algorithmes est publique et que la « société civile des experts » va pouvoir regarder cela de plus près, et pourquoi pas lancer l'alerte. Ce serait merveilleux s'il existait un statut du lanceur d'alerte – je vous renvoie ici aux amendements que La France insoumise a déposés et qui ont été rejetés. Ce n'est donc pas à l'ordre du jour.

Il faudrait aussi que les gens qui détecteraient un problème aient la capacité de se faire entendre. Je vous renvoie ici à l'amendement relatif au compteur Linky : je ne doute pas que vous allez l'adopter, puisqu'il vise à faire la lumière sur un problème qui reste sous les radars alors qu'il concerne le grand public.

Cela me fait penser à un reportage que le Journal de France 2 a consacré à la Chine, où la vidéosurveillance utilise des algorithmes de reconnaissance faciale. L'un des créateurs de ces algorithmes vante son produit en arguant qu'il ne se trompe qu'une fois sur cent mille quand un être humain se tromperait une fois sur mille et qu'il a déjà permis de procéder à plus de trois mille arrestations en 2017. C'est ça, la société que vous voulez ? Pour nous, il est hors de question de mettre le doigt dans cet engrenage !

L'être humain n'est pas réductible à un algorithme, et il doit rester au coeur de la décision. Votre algorithme va-t-il demander des pièces complémentaires ? Va-t-il, dans le cadre de votre loi pour une société de confiance, apporter du conseil ? Non, il va décider en fonction de données, d'une manière bête et méchante.