'Magnifica humanitas' (3) : "Que sommes-nous en train de construire ?"

Approuvé en cela par des concepteurs majeurs de l'IA, Léon XIV analyse les perspectives et les dangers de cette révolution technologique. Le pape appelle peuples et gouvernants à une lucidité vigilante :

L'encyclique appelle à éviter l'erreur consistant à assimiler l'intelligence artificielle à l'intelligence humaine :

" Ces systèmes imitent certaines fonctions de l’intelligence humaine : les prétendues 'intelligences artificielles' ne vivent pas d’expérience, ne possèdent pas de corps, ne connaissent ni la joie ni la douleur, ne mûrissent pas dans la relation, ne savent pas de l’intérieur ce que signifient l’amour, le travail, l’amitié, la responsabilité. Elles n’ont pas de conscience morale : elles ne jugent pas le bien et le mal, ne saisissent pas le sens ultime des situations, n’assument pas le poids des conséquences. Elles peuvent imiter des langages, des comportements, des évaluations, elles peuvent simuler de l’empathie ou de la compréhension, mais elles ne comprennent pas ce qu’elles produisent, car elles n’habitent pas l’horizon affectif, relationnel et spirituel dans lequel l’humain devient sage. Même lorsque ces outils sont présentés comme capables d’“apprendre”, leur manière de le faire diffère de celle de l’être humain. Il ne s’agit pas de l’expérience de celui qui se laisse façonner par la vie et grandit au fil du temps à travers ses choix, ses erreurs, le pardon et la fidélité ; il s’agit plutôt d’une adaptation statistique à partir de données et de résultats qui peut s’avérer très efficace, mais qui n’implique pas la croissance intérieure humaine. Ce faisant, ils la surpassent souvent en termes de vitesse et d’ampleur de calcul, offrant des avantages concrets dans de nombreux domaines. Et pourtant, cette puissance reste exclusivement liée au traitement des données..."

De l'aveu même de leurs concepteurs, les IA développent des processus internes profonds – et inconnus – qui peuvent révéler de redoutables surprises :

" Nous tous, y compris ceux qui les conçoivent, en savons peu sur leur fonctionnement réel. Les intelligences artificielles modernes sont en effet davantage “cultivées ” que “construites” : les développeurs n’en conçoivent pas directement chaque détail, mais créent une architecture sur laquelle l’IA “se développe”. En conséquence, des aspects scientifiques fondamentaux – tels que les représentations internes et les processus computationnels de ces systèmes – restent pour l’instant inconnus. Il en résulte donc l’urgence d’un double engagement : d’une part, un approfondissement de la recherche scientifique ; d’autre part, un exercice de discernement moral et spirituel..."

Les IA ouvrent des perspectives de progrès vertigineuses dans tous les domaines et spécialement en médecine. Mais ces perspectives elles-mêmes exigent que l'humanité exerce sur elles un discernement vigilant :

" L’IA peut être une aide précieuse tout en nécessitant une approche mesurée et vigilante. Ces dernières années, son utilisation à des fins privées s’est considérablement développée et de nombreuses voix s’élèvent pour réfléchir aux opportunités et aux risques liés à sa diffusion rapide. Dans un usage personnel, trois aspects en particulier doivent être pris en compte : la facilité d’obtenir un résultat, l’impression d’objectivité et la simulation de la communication humaine. La rapidité et la simplicité avec lesquelles il est possible d’obtenir des indications, des élaborations complexes, des contenus médiatiques et des formes d’assistance concrète simplifient nos vies, mais peuvent aussi nous habituer à trop déléguer et à rechercher des réponses immédiates, affaiblissant notre jugement personnel et notre créativité. L’impression d’objectivité que les réponses et les propositions de ces systèmes peuvent susciter risque de nous faire oublier qu’elles reflètent les paramètres culturels de ceux qui les ont conçus et formés, avec toutes leurs qualités et leurs défauts. L’imitation artificielle d’une communication humaine positive – paroles de conseil, d’empathie, d’amitié, d’amour – peut s’avérer gratifiante et même utile, mais chez des utilisateurs peu avertis, elle peut induire en erreur et donner l’illusion d’être en relation avec un sujet personnel authentique. Lorsque la parole est simulée, elle ne construit pas une relation, mais son apparence. L’imitation artificielle de la relation de soins ou d’accompagnement peut devenir dangereuse lorsqu’elle s’insinue dans un contexte pauvre en relations et en affections réelles : le risque n’est alors pas tant qu’une personne croie parler à une autre personne, mais qu’elle perde le désir même de rechercher véritablement l’autre..."

" Nous ne pouvons pas considérer l’IA comme moralement neutre. En réalité, tout dispositif technique implique des choix et des priorités : ce qu’il mesure, ce qu’il ignore, ce qu’il optimise, et la manière dont il classe les personnes et les situations. Si un système est conçu ou utilisé de manière à traiter certaines vies comme moins dignes ou à les exclure sans possibilité d’appel, il ne s’agit pas d’un simple instrument “à bien utiliser” ; il introduit déjà un critère qui contredit la dignité inaliénable de la personne. C’est pourquoi le discernement éthique ne peut se limiter à se demander si nous utilisons un certain système à des fins bonnes ou mauvaises, mais doit également s’interroger sur la manière dont il est conçu et sur la conception de la personne et de la société qui est inscrite dans les données et les modèles qui le guident..."

Il est urgent aussi de surveiller les répercussions environnementales des data centers : 

101. En élargissant notre regard sur le recours à l’IA dans nos sociétés, nous constatons qu’elle est désormais présente dans les processus décisionnels dans tous les domaines et à différents niveaux : dans la communication, la gestion, le contrôle. Les avantages en termes d’efficacité et le potentiel d’amélioration de certains services sont évidents ; cependant, une adoption rapide et sans discernement nous expose à divers risques, notamment celui de sous-estimer son impact environnemental. Les systèmes d’IA actuels nécessitent de grandes quantités d’énergie et d’eau, ils ont un impact significatif sur les émissions de dioxyde de carbone et consomment des ressources de manière intensive. Avec l’augmentation de la complexité, notamment dans les grands modèles linguistiques, les besoins en puissance de calcul et en capacité de stockage augmentent également, s’appuyant sur un ensemble de machines, de câbles, de centres de données et d’infrastructures énergivores. C’est pourquoi il est essentiel de développer des solutions technologiques plus durables afin de réduire l’impact sur l’environnement et de prendre soin de notre Maison commune..."

Ne pas oublier non plus les dégâts sociaux (déjà perceptibles aux Etats-Unis) et les risques idéologiques d'une société qui serait régentée par les intelligences artificielles :

" Des décisions délicates qui touchent au travail, au crédit, à l’accès aux services et à la réputation des personnes risquent d’être entièrement confiées à des systèmes automatisés qui ne connaissent pas « la compassion, la miséricorde, le pardon et, surtout, l’ouverture à l’espérance d’un changement de la personne », et peuvent ainsi engendrer de nouvelles formes d’exclusion. Il peut y avoir des utilisations manifestement inhumaines, comme la manipulation de l’information ou la violation de la vie privée, mais il peut aussi y avoir un danger moins évident, lorsque les systèmes d’IA, se présentant comme neutres et objectifs, reflètent et renforcent les stéréotypes ou les positions idéologiques de ceux qui les ont conçus et formés..."

L'IA est un produit du génie humain.  Mais à l'ère du capitalisme sans contrepoids, tout apport technologique est immédiatement transformé en machine à profits (cf les réseaux "sociaux"). Avec l'IA la machine à profits risque de devenir Matrix, il est temps de s'en apercevoir :

"108. En effet, comme c’est le cas pour toute grande avancée technologique, l’IA tend surtout à renforcer le pouvoir de ceux qui disposent déjà de ressources économiques, de compétences et de l’accès aux données. À la lumière du bien commun et de la destination universelle des biens, ce phénomène suscite de sérieuses préoccupations : de petits groupes très influents peuvent orienter l’information et la consommation, conditionner les processus démocratiques et influencer les dynamiques économiques à leur avantage, en contradiction avec la justice sociale et la solidarité entre les peuples. C’est pourquoi il est indispensable que l’utilisation de l’IA – surtout lorsqu’elle touche aux biens publics et aux droits fondamentaux – s’accompagne de critères clairs et de contrôles effectifs, inspirés de la participation et de la subsidiarité : les communautés et les corps intermédiaires ne peuvent être réduits à de simples destinataires de décisions prises ailleurs, mais doivent pouvoir contribuer au discernement et à la vigilance. En outre, la propriété des données ne peut être confiée uniquement à des acteurs privés, mais doit être réglementée. Elles sont le fruit de la contribution de nombreux acteurs et ne peuvent être vendues ou confiées à quelques-uns. Une créativité capable de les gérer comme un bien commun ou collectif est nécessaire, dans une logique de partage, comme le suggérait déjà saint Jean-Paul II à propos des biens collectifs..."

 

Suites de notre lecture de l'encyclique : 

* Que faire ?

* L'avis de deux jésuites