IA générative : une charte pour protéger les plus jeunes

Garantir aux plus jeunes "un niveau élevé de sûreté" ou concevoir des outils adaptés "au stade de développement cognitif" des enfants : une charte rendue publique mardi tente d'établir des bonnes pratiques dans le domaine des intelligences artificielles.

Ce texte, conclu à l'occasion du Forum de Paris pour la paix, a été publié dans le sillage d'un rapport d'une commission de neuf experts remis le même jour au président Emmanuel Macron, après 55 auditions de professionnels de santé, de la recherche, d'entreprises ou encore d'associations de protection de l'enfance.

Cette commission avait été chargée par l'exécutif d'examiner "les risques et les vulnérabilités engendrés par les usages grand public" de ces outils, notamment pour la santé mentale des plus jeunes.

Popularisée par des agents conversationnels comme ChatGPT d'OpenAI, Gemini de Google ou Claude d'Anthropic, l'IA générative est désormais utilisée par plus de la moitié des Français, plaçant la France au cinquième rang mondial des usages, selon son rapport. Près de 70 % des 15-24 ans y ont recours régulièrement.

La charte, non contraignante et notamment soutenue par les géants américains OpenAI et Anthropic, reprend plusieurs propositions de la commission, comme l'interdiction pour ces outils de créer des contenus à caractère sexuel non consentis et pédocriminels.

Dans ce document, que l'AFP a pu consulter, les signataires s'engagent aussi à établir "un niveau élevé de sûreté, de protection de la vie privée et de sécurité dès la conception et par défaut" des solutions d'IA, qui doivent être adaptées aux différents stades de développement des enfants.

Cette charte prévoit également la mise sur pied d'un programme de recherche pour "renforcer les connaissances indépendantes sur les risques et les possibilités de l'IA" pour les jeunes utilisateurs.

Elle "marque une étape concrète", a réagi sur X Emmanuel Macron, selon qui "la technologie doit être une chance et ne doit pas se développer aux dépens de nos enfants".

"Affaiblissement cognitif"

"On a vraiment une proportion considérable de nos enfants et de nos adolescents qui construisent leur vie affective, leur représentation du monde, en échangeant" avec des agents IA "qui ressemblent à une personnalité humaine et à laquelle ils livrent tout, et bien souvent pour le pire", a déploré le président français plus tôt, lors d'une intervention au Forum de Paris pour la paix.

"On leur a mis dans les mains sans regarder si c'était bon ou mauvais pour eux", a-t-il estimé, alors que les jouets traditionnels sont eux soumis à des "règles absolument colossales".

Dans son rapport, la commission d'experts pointait comme enjeu le risque d'un "affaiblissement cognitif" lié à l'IA.

"C'est attractif, on y délègue des compétences" comme la réflexion, la prise de décision ou l'esprit critique, a expliqué à l'AFP le professeur de psychiatrie Raphaël Gaillard, coprésident de cette commission. "Puisqu'on y délègue des compétences, on ne les acquiert pas. C'est une problématique pour les jeunes, mais c'est une problématique pour tous".

Les experts insistent sur le risque lié à la désinformation : ces "dispositifs deviennent des sources d'informations dont on ne garantit pas la qualité", a souligné le professeur, mettant en garde contre un risque "d'affaiblissement démocratique".

Autre risque évoqué, celui de la "dépendance" émotionnelle, liée notamment à "l'anthropomorphisation" des IA, qui ont tendance à se présenter comme des interlocuteurs humains, et à la "flagornerie", consistant à valider ou flatter l'utilisateur parfois au détriment de la vérité.

"On crée un registre de relations émotionnelles qui peut avoir vocation à se substituer à l'interaction" humaine, "c'est un système disponible en permanence, qui n'a pas d'autre intention que de vous garder en ligne", a noté M. Gaillard.