'Magnifica humanitas' (4) : l'Eglise, l'IA et le politique

Comme ses prédécesseurs mais sur un terrain entièrement nouveau, l'IA, Léon XIV appelle le politique à sortir du coma et lui fait des suggestions :

 

Presque aucune voix, dans le microcosme politico-médiatique, ne reproche à Léon XIV d’intervenir dans un problème de société comme l’intelligence artificielle. C’est comme si chacun admettait inconsciemment ce qu’explique le pape : que la question technologique est une question spirituelle et que cela justifie une encyclique. Il ne s’agit pas seulement d’évaluer ce que la technologie de l'IA fait à l’homme, mais ce qu’elle fait de l’homme : elle modifie sa façon de percevoir la réalité, de penser, et de se relier les uns aux autres. L'enjeu est donc immense. Un processus historique est en marche. Or la doctrine sociale catholique a pour fonction d'appliquer "une interprétation évangélique des processus historiques comme des choix qu’ils impliquent"  (Antonio Spadaro s.j., spécialiste du numérique) :

"C’est de là que découle la fonction propre de la Doctrine sociale qui ne prétend pas se substituer aux responsabilités de la politique et des institutions, mais s’offre comme soutien au discernement commun, en aidant à reconnaître et à promouvoir ce qui sert la dignité des personnes, la vitalité des communautés et le bien de tous".

Ce "discernement commun" aidé par la doctrine sociale doit déboucher sur une action de l'agent du "bien de tous" : le politique à tous les échelons, auquel incombe d'accompagner et contrôler la prolifération de l'IA mais aussi de la ralentir ou de la suspendre là où c'est nécessaire. C'est ce que dit l'encyclique :

“106. Appeler à la prudence, à des contrôles rigoureux et parfois même à un ralentissement dans l’adoption de l’IA ne signifie pas être contre le progrès, mais faire preuve d’une attention responsable envers la famille humaine. Cette exigence est d’autant plus urgente qu’il existe souvent un déséquilibre entre la vitesse du développement technologique et le rythme auquel se développent les consciences, les normes, les contrôles et les institutions capables d’en réguler les effets. Il ne suffit pas d’invoquer de façon générale l’éthique : il faut des cadres juridiques adéquats, une surveillance indépendante, l’éducation des utilisateurs, une politique qui n’abdique pas son devoir. Autrement le changement ne sera régi que par des logiques technocratiques et présenté comme nécessaire et inévitable, finissant par imposer des règles dictées par ceux qui possèdent les données, les infrastructures et les capacités de calcul".

Le pape, comme tous ses prédécesseurs, n'est pas un libéral : il en appelle à la puissance publique là où les abus des géants du privé (les techno-fous de la Silicon Valley et leur environnement industriel) risquent d'étouffer l'humain :

"107. Nous ne pouvons pas nous contenter d’invoquer la moralisation de la machine (ce qu’on appelle “l’alignement” de l’IA sur les valeurs humaines) sans avoir le courage de poser une condition supplémentaire : la possibilité de débattre du code éthique à utiliser, en le soumettant à des critères de justice sociale partagés. Sans cela ceux qui contrôlent l’IA imposeront leur propre vision morale qui deviendra l’infrastructure invisible des systèmes. Une IA plus morale ne sert à rien si cette morale est décidée par une poignée de personnes. Il faut une politique plus présente, capable de ralentir là où tout s’accélère et de protéger les espaces où les communautés peuvent encore participer et s’interroger".

Quelles suggestions la doctrine sociale catholique fait-elle aux gouvernants politiques ?

"109. Les principes de la doctrine sociale nous aident à lire cette nouvelle réalité. Dans un monde où quelques sujets concentrent les données, les ressources informatiques et le pouvoir réglementaire, parler de bien commun signifie démasquer cette nouvelle asymétrie épistémique, économique et politique, en dénonçant les nouveaux monopoles de l’IA. Parler de destination universelle des biens signifie trouver des moyens d’assurer l’accès universel aux technologies et à la formation. Parler de subsidiarité exige de protéger la capacité des communautés à choisir et à corriger, sans reléguer leur intervention à un simple rôle de surveillance, une fois que les normes ont été établies ailleurs. Parler de solidarité oblige à reconnaître le travail invisible, souvent exploité, qui alimente les modèles algorithmiques. Parler de justice impose de s’interroger sur les géographies du 'pouvoir définissant', qui peut entraîner les modèles et n’est qu’objet d’entraînement ; et de reconnaître que la justice sociale n’est pas seulement un objectif à protéger après l’adoption des technologies, mais une condition préalable à mettre en œuvre dès leur conception".

Il s'agit de "faire progresser la technique sans faire régresser le cœur" : 

"C’est pourquoi l’humanité – magnifique et blessée – ne doit être ni remplacée ni dépassée : elle peut accueillir les progrès de la technique pour soulager les souffrances et ouvrir de nouvelles possibilités, à condition de ne pas renier ce qui fait d’elle ce qu’elle est, c’est-à-dire la capacité de relation et d’amour. À ce stade, une question décisive s’impose : s’il existe un authentique “plus qu’humain”, où se trouve-t-il ? La foi chrétienne y répond en indiquant un accomplissement qui ne découle pas d’une divinisation technologique, mais de l’opération de la grâce de Dieu reçue dans le Christ".

 

Prochaine étape de notre lecture de l'encyclique : 

* L'avis d'Alban Massie s.j.