Intervention de Jean-Louis Touraine

Merci pour votre éclairage. Nous avons tous conscience que la révolution numérique va profondément modifier les comportements humains, comme en leur temps les révolutions engendrées par l'avènement de l'imprimerie ou de l'agriculture. Certaines des évolutions induites pourraient être opportunes ; d'autres regrettables. Il nous importe donc de contrôler quelque peu ces utilisations. Vous avez cité le professeur Jean Bernard, qui fut le premier président du CCNE. À ma connaissance, la France est le premier pays au monde à légiférer sur l'éthique de l'intelligence artificielle. Il existe, dans de nombreux pays, des règlementations, un encadrement, mais nous allons pour la première fois introduire dans la loi des recommandations éthiques relatives à ce domaine. Il s'agit d'un moment important et il nous est suggéré, afin de suivre ces évolutions dans la durée, de créer un comité d'éthique spécifiquement dédié à l'intelligence artificielle, distinct du CCNE. Quelle est votre opinion à ce propos ? Vous semble-t-il préférable de créer une instance consacrée à ce sujet ou d'intégrer cet élément comme une nouvelle compétence au sein du CCNE ?

Le mot « bioéthique » a initialement été employé par un auteur allemand au début du XXe siècle et impliquait à l'époque l'ensemble du monde vivant. Depuis, son sens a dérivé, jusqu'à le réduire à la seule espèce humaine, détachant ainsi artificiellement l'homme de l'écosystème dans lequel il est immergé et dont il est dépendant. Devons-nous, selon vous, nous préoccuper davantage de l'éthique de l'utilisation de l'intelligence artificielle pour l'ensemble du monde vivant ou importe-t-il avant tout de considérer ses applications à l'humain ?

Vous avez évoqué les objets connectés, dont vous savez mieux que moi comment ils sont proposés aux uns et aux autres, puisque, sans que l'on s'en rende compte, les caractéristiques individuelles de chacun d'entre nous sont transmises, répertoriées, analysées, et donnent lieu ensuite à des propositions d'ordre commercial, ciblées en fonction des sites consultés, des requêtes faites ou des achats effectués. Ainsi, nous nous voyons proposer régulièrement à l'achat, de façon quelquefois insistante, des objets connectés souvent superflus, mais adaptés à notre personnalité, notre mode de vie. Les enjeux commerciaux sont considérables. Comment protéger nos concitoyens de ces abus commerciaux ?

Parmi les éléments entrant dans le périmètre de l'intelligence artificielle, figurent les dispositifs basés sur l'intelligence rationnelle, les systèmes auto-apprenants, mais aussi les robots dits « affectifs ». Ces derniers ont-ils d'après vous vocation à combler véritablement certaines déficiences et situations de misère affective ou vont-ils au contraire accroître l'isolement social des personnes qui y auront recours ? Il est même question, au Japon, de robots sexuels. Comment imaginez-vous un meilleur contrôle de ces évolutions ? Il n'est pas question de verser dans la prohibition, mais d'avoir une certaine évaluation, une forme de contrôle et de formuler, à l'attention notamment de la jeune génération, des recommandations sur ce qui est opportun et sur ce qui pourrait s'avérer dangereux.

L'intelligence artificielle n'est pour l'instant pas capable, à ma connaissance, d'effectuer de vrais bonds technologiques. On donne souvent l'exemple d'un ordinateur qui analyserait la bougie : il n'inventera jamais l'ampoule électrique, mais se contentera de concevoir des bougies de plus en plus performantes. Pensez-vous que l'intelligence artificielle sera un jour capable d'effectuer ces sauts de créativité, ce qui lui confèrerait alors une puissance très importante, voire redoutable ?

Mon dernier point concerne les modifications que tout cela induit dans les comportements humains. Pardonnez-moi d'être quelque peu caricatural, mais on entend parfois dire que l'on observe chez les jeunes générations, nées avec les technologies numériques, une modification de leurs capacités mentales, qui leur permet de surfer avec aisance sur une grande quantité d'informations, souvent non validées par ailleurs, mais qui se traduit aussi par une diminution de leur mémoire, de leurs capacités en calcul mental, etc. Comment accompagner ces modifications afin qu'elles ne soient pas trop défavorables aux prochaines générations ? Faut-il envisager un suivi de ces évolutions en temps réel, afin de pouvoir rectifier la trajectoire si l'on se rend compte qu'elle s'éloigne de ce qui semble le plus opportun ?