IA: le pape met en garde contre l'avènement d'un "paradis de machines"

Le pape Léon XIV a mis en garde vendredi contre le risque de "perdre notre humanité au milieu du +paradis de machines+", lors d'un discours à Paris, dans un contexte d'inquiétude croissante sur les dérives de l'intelligence artificielle (IA).

Le pontife américain, qui a fait de l'IA un thème majeur du début de son pontificat, a appelé devant le président Emmanuel Macron à "replacer la personne humaine au coeur de toute réflexion", lors d'une visite apostolique en France.

"Pour ne pas perdre notre humanité au milieu du +paradis de machines+ qui envahissent et conditionnent notre quotidien, il est urgent de former les esprits à un discernement éthique", a souligné le pape, reprenant une formule de l'écrivain français Georges Bernanos, qui critiquait le projet d'une société industrielle obsédée par l'efficacité et le profit après la Seconde Guerre mondiale.

"Une société authentiquement libre n'impose pas l'uniformité, mais protège la diversité des consciences, en prévenant les dérives autoritaires et en favorisant un dialogue éthique", a-t-il rappelé.

Face aux craintes grandissantes sur les risques liés aux algorithmes - et leur potentielle capacité à dominer le monde - jusque chez les acteurs qui la développent, l'Eglise estime avoir un rôle à jouer.

En mai, à peine un an après son élection, le pape appelait dans un texte majeur à "désarmer" l'IA pour "l'empêcher de dominer l'humain".

"Magnifica humanitas", la première encyclique jamais consacrée à ce sujet, insiste notamment sur le risque de voir les données, les infrastructures et la puissance de calcul se concentrer dans les mains de quelques acteurs.

Ces dernières années, le Vatican a multiplié les échanges avec des universitaires et des dirigeants de la Silicon Valley afin d'anticiper les conséquences anthropologiques, sociales et éthiques de cette révolution, comme l'utilisation militaire de l'IA et la surveillance de masse qu'elle pourrait permettre.

"Tribunal international"

La doctrine de Léon XIV s'inscrit dans une histoire bien plus ancienne, et son nom de pape n'a rien d'anodin.

En 1891, Léon XIII publiait "Rerum novarum", le grand texte de la doctrine sociale de l'Église face aux bouleversements de l'époque, entre essor du capitalisme, condition ouvrière et rapport entre capital et travail.

Léon XIV "ne voit pas l'IA comme une simple innovation technique supplémentaire, mais comme une mutation comparable à la révolution industrielle du XIXe siècle", souligne auprès de l'AFP François Mabille, directeur de l'Observatoire géopolitique du religieux.

Son engagement ne se limite pas à de "simples interventions morales extérieures au champ technologique": ce pape moderne de 71 ans - il est le premier à porter une montre connectée - veut structurer "un véritable écosystème de gouvernance mondiale" de l'IA, ajoute le chercheur.

Léon XIV a d'ailleurs approuvé en mai la création d'une commission interdiscatérielle (équivalent interministériel du Vatican) sur l'IA, chargée d'élaborer les positions du Vatican.

L'IA va créer des gains de productivité gigantesques. La question est de savoir qui aura le pouvoir et comment se répartiront les dividendes.

"Le montant que les plus grandes entreprises vont investir dans l'IA l'an prochain est de 700 milliards de dollars", a souligné vendredi sur la radio France Culture Paolo Benanti, éminent conseiller Vatican sur les questions d'IA, comparant cette somme aux PIB cumulés de l'Algérie et du Portugal.

De tels investissements "ne permettent pas aux démocraties d'intervenir", a ajouté le théologien, qui a suggéré la création d'un "tribunal international de l'IA" comme contrepoids aux dérives potentielles.

"Portée politique"

Le pape, qui devrait renouveler vendredi son appel à réguler l'IA au siège de l'Organisation des Nations unies pour l'éducation, la science et la culture (Unesco), a enfin mis en garde contre "l'illusion" selon laquelle la science et la technologie seraient "une solution et une consolation à toutes nos souffrances".

Il s'est notamment dit préoccupé par le risque de "détourner la science et la technologie en entreprises lucratives favorisant les manipulations génétiques, la gestation pour autrui, l'achat d'organes ou l'offre d'une mort programmée".

Ce pape "n'est pas un activiste (...) Il ne fait pas de politique au sens politicien du terme. Mais chacun de ses actes possède une portée politique importante et il en a conscience", explique à l'AFP Eric Salobir, président de la Human Technology Foundation et conseiller auprès du Vatican: "C'est cela, le rôle du pape: stimuler la réflexion, challenger et montrer un cap".