Algorithmes : la CNIL ouvre un "débat"... désarmant

...face au Big Brother  Google-Facebook-Microsoft-IBM :

 

 

Que sont les algorithmes ? Des outils de résolution de problèmes. Le calcul algorithmique est un marteau qui traite tout comme des clous ; si l'on réduit le monde et la vie à des "problèmes", ils deviennent l'objet de "solutions" univoques imposées par des robots calculateurs. Programmés par qui ? Par le techno-capitalisme dont la Silicon Valley est la tête chercheuse : c'est dans son intérêt que le domaine d'intrusion des algorithmes s'élargit tous les jours. D'où le malaise qui se répand... D'après l'Ifop, 80 % des Français pensent que les algorithmes "interviennent dans leur vie quotidienne", et 70 % que c'est "un enjeu de société".

La Commission nationale de l'informatique et des libertés (CNIL) lance donc un débat sur le rôle croissant des algorithmes dans la vie sociale et quotidienne : management des salariés en entreprise... orientation des lycéens... orientation (bientôt) des malades... évaluations par les assureurs... Etc.  D'où le sujet du débat : "Les algorithmes sont-ils transparents, loyaux ? laissent-ils aux individus leur autonomie ? Une interrogation monte dans le grand public", explique la présidente de la CNIL, Isabelle Falque-Pierrotin, dans Le Monde du 24/01.

Elle ajoute (biaisant déjà l'approche) : "Les algorithmes sont la proie de tous les fantasmes. D'un côté, il y a la fascination technologique pour ces objets. D'un autre côté, il y a aussi une peur irraisonnée où l'on se dit : 'les algorithmes vont me prendre mon job, me condamner à mort si je suis un malade en fin de vie, ou me conduire en prison directement parce qu'il n'y aura plus de juges..."  Conclusion de Mme Falque-Pierrotin : le débat ouvert par la CNIL "aura pour objectif de cerner les questions éthiques réelles."

Reprenons ces trois points.

 

► "La fascination technologique". Elle ne tombe pas de la lune. Elle n'est pas non plus un produit de la culture contemporaine, qu'il faudrait accepter par "réalisme" ! Comme le mot "technology" lui-même (néologisme pour sacraliser la technique), cette "fascination" est un état d'esprit, fabriqué par - et pour - le système économique et financier. C'est ce que soulignait  l'historien américain David Noble (1945-2010), auteur de neuf livres sur ces sujets :

<< Pourquoi une telle déférence pour le marché, une telle révérence pour la technologie, alors qu'on devrait savoir à quoi s'en tenir ?  [...]  Ce qui nous paralyse en premier lieu, ce sont les idées dont nous avons hérité... Parmi elles, figure le concept d'un progrès technologique nécessaire et nécessairement bénéfique ; et l'idée que la compétitivité basée sur ce progrès, serait la voie la plus sûre vers la prospérité. Ces notions, quoique en bout de course, continuent à désarmer l'opposition... >> [1]

Désarmer l'opposition, c'était en l'occurrence : 1. disqualifier toute critique du système économique et financier ; 2. comme seule issue à l'impasse de ce système, proclamer le dogme du "laissez-innover". En fait, le "laissez-innover" n'est qu'une application du premier dogme libéral : le "laissez-faire". Il s'agit de sacraliser le "libre jeu" de "lois de l'économie", de le doper par la "technologie", et de condamner toute idée de l'encadrer et de le contrôler. Voir et nommer les méfaits de la Main Invisible du Marché est donc jugé ridicule : c'est ce que la CNIL appelle "avoir une peur irraisonnée".

 

►  "Une peur irraisonnée".  Pourquoi serait-il "irraisonné" de redouter l'emprise des algorithmes sur notre vie ? Parce que le "raisonnable" est au contraire de nous en remettre à l'algorithme ! Nous sommes moins "rationnels" que lui. Il est même hyper-rationnel : d'une rationalité libérée des faiblesses humaines ! C'est comme les robots par lesquels le ministre du Travail de M. Trump veut remplacer les salariés : un algorithme "ne tombe pas malade, n'arrive pas en retard, ne réclame pas d'augmentations..." Il ne réclame même pas du tout de salaire - et réalise ainsi, dans les entreprises de la Silicon Valley, le libéralisme "pur et parfait" où rien ne vient freiner le calcul de productivité.

 

►  "Cerner les questions éthiques réelles"... Deux mots sont ici à examiner : "éthiques" et "réelles".

1. Le mot "éthique" sonne bien, mais n'a plus de contenu depuis trente ans. Tout s'est en effet passé comme si les comités d'éthique avaient été fondés, non pour orienter l'usage des "nouvelles technologies" vers un bien commun (social, politique, humaniste), mais pour "accompagner"  (autant dire "faciliter")  l'emprise croissante de ces "technologies" sur la société et l'individu - dans l'intérêt économique de "la Croissance". Le "laisser-innover" n'est qu'une application du "laisser-faire" : lequel est censé assurer une croissance illimitée, dans le temps et l'emprise, par l'extension permanente du domaine de la marchandise. Et à qui finit-on par confier le soin de "dégager" des règles "éthiques" (toujours à titre provisoire mais chaque fois irréversible) ?  Aux concepteurs mêmes de ces "technologies", dont l'intérêt est de repousser toujours plus loin les limites de leurs applications.

2. La CNIL veut donc réduire les questions "éthiques" à celles qui seront validées comme "réelles". Selon quelle procédure ? Une "série de débats"... Avec quels intervenants ? Le premier est M. Paul Duan, qualifié de "petit génie de la Silicon Valley" (par Le Figaro) et de "finaliste de la compétition de 'l'entrepreneur de moins de 30 ans qui va changer le monde' " (par Forbes Magazine). M. Duan promet de résoudre le chômage par des algorithmes (négligeant le fait que le chômage est un effet structurel du capitalisme tardif). Il est "le super-héros de la data-science", selon TechMeUp, parce qu'il a lancé "une ONG qui utilise le big data pour résoudre des problèmes de société". Le big data extrapole l'algorithme à tous les domaines, non seulement de l'économie, mais du social, voire de l'existence humaine... Si c'est de M. Duan (et de ses pareils) que la CNIL attend des solutions, on devine à quoi elles ressembleront. On devine également à quoi se réduiront les questions éthiques "réelles" : si le "réel" se confond avec l'économie-monde, les dimensions non-marchandes de la vie sont évacuées dans l'irréalité. 

C'est ce que le pape François nomme "le culte de l'idole Argent".

 

_________

[1]  David Noble, Progress without People (New York 2001). En français. : Le Progrès sans le peuple (Agone 2016).