Ok

En poursuivant votre navigation sur ce site, vous acceptez l'utilisation de cookies. Ces derniers assurent le bon fonctionnement de nos services. En savoir plus.

26/01/2017

Algorithmes : la CNIL ouvre un "débat"... désarmant

15871675688_32a2f99291_o.jpg

...face au Big Brother  Google-Facebook-Microsoft-IBM :


 

 

Que sont les algorithmes ? Des outils de résolution de problèmes. Le calcul algorithmique est un marteau qui traite tout comme des clous ; si l'on réduit le monde et la vie à des "problèmes", ils deviennent l'objet de "solutions" univoques imposées par des robots calculateurs. Programmés par qui ? Par le techno-capitalisme dont la Silicon Valley est la tête chercheuse : c'est dans son intérêt que le domaine d'intrusion des algorithmes s'élargit tous les jours. D'où le malaise qui se répand... D'après l'Ifop, 80 % des Français pensent que les algorithmes "interviennent dans leur vie quotidienne", et 70 % que c'est "un enjeu de société".

La Commission nationale de l'informatique et des libertés (CNIL) lance donc un débat sur le rôle croissant des algorithmes dans la vie sociale et quotidienne : management des salariés en entreprise... orientation des lycéens... orientation (bientôt) des malades... évaluations par les assureurs... Etc.  D'où le sujet du débat : "Les algorithmes sont-ils transparents, loyaux ? laissent-ils aux individus leur autonomie ? Une interrogation monte dans le grand public", explique la présidente de la CNIL, Isabelle Falque-Pierrotin, dans Le Monde du 24/01.

Elle ajoute (biaisant déjà l'approche) : "Les algorithmes sont la proie de tous les fantasmes. D'un côté, il y a la fascination technologique pour ces objets. D'un autre côté, il y a aussi une peur irraisonnée où l'on se dit : 'les algorithmes vont me prendre mon job, me condamner à mort si je suis un malade en fin de vie, ou me conduire en prison directement parce qu'il n'y aura plus de juges..."  Conclusion de Mme Falque-Pierrotin : le débat ouvert par la CNIL "aura pour objectif de cerner les questions éthiques réelles."

Reprenons ces trois points.

 

"La fascination technologique". Elle ne tombe pas de la lune. Elle n'est pas non plus un produit de la culture contemporaine, qu'il faudrait accepter par "réalisme" ! Comme le mot "technology" lui-même (néologisme pour sacraliser la technique), cette "fascination" est un état d'esprit, fabriqué par - et pour - le système économique et financier. C'est ce que soulignait  l'historien américain David Noble (1945-2010), auteur de neuf livres sur ces sujets :

<< Pourquoi une telle déférence pour le marché, une telle révérence pour la technologie, alors qu'on devrait savoir à quoi s'en tenir ?  [...]  Ce qui nous paralyse en premier lieu, ce sont les idées dont nous avons hérité... Parmi elles, figure le concept d'un progrès technologique nécessaire et nécessairement bénéfique ; et l'idée que la compétitivité basée sur ce progrès, serait la voie la plus sûre vers la prospérité. Ces notions, quoique en bout de course, continuent à désarmer l'opposition... >> [1]

Désarmer l'opposition, c'était en l'occurrence : 1. disqualifier toute critique du système économique et financier ; 2. comme seule issue à l'impasse de ce système, proclamer le dogme du "laissez-innover". En fait, le "laissez-innover" n'est qu'une application du premier dogme libéral : le "laissez-faire". Il s'agit de sacraliser le "libre jeu" de "lois de l'économie", de le doper par la "technologie", et de condamner toute idée de l'encadrer et de le contrôler. Voir et nommer les méfaits de la Main Invisible du Marché est donc jugé ridicule : c'est ce que la CNIL appelle "avoir une peur irraisonnée".

 

►  "Une peur irraisonnée".  Pourquoi serait-il "irraisonné" de redouter l'emprise des algorithmes sur notre vie ? Parce que le "raisonnable" est au contraire de nous en remettre à l'algorithme ! Nous sommes moins "rationnels" que lui. Il est même hyper-rationnel : d'une rationalité libérée des faiblesses humaines ! C'est comme les robots par lesquels le ministre du Travail de M. Trump veut remplacer les salariés : un algorithme "ne tombe pas malade, n'arrive pas en retard, ne réclame pas d'augmentations..." Il ne réclame même pas du tout de salaire - et réalise ainsi, dans les entreprises de la Silicon Valley, le libéralisme "pur et parfait" où rien ne vient freiner le calcul de productivité.

 

►  "Cerner les questions éthiques réelles"... Deux mots sont ici à examiner : "éthiques" et "réelles".

1. Le mot "éthique" sonne bien, mais n'a plus de contenu depuis trente ans. Tout s'est en effet passé comme si les comités d'éthique avaient été fondés, non pour orienter l'usage des "nouvelles technologies" vers un bien commun (social, politique, humaniste), mais pour "accompagner"  (autant dire "faciliter")  l'emprise croissante de ces "technologies" sur la société et l'individu - dans l'intérêt économique de "la Croissance". Le "laisser-innover" n'est qu'une application du "laisser-faire" : lequel est censé assurer une croissance illimitée, dans le temps et l'emprise, par l'extension permanente du domaine de la marchandise. Et à qui finit-on par confier le soin de "dégager" des règles "éthiques" (toujours à titre provisoire mais chaque fois irréversible) ?  Aux concepteurs mêmes de ces "technologies", dont l'intérêt est de repousser toujours plus loin les limites de leurs applications.

2. La CNIL veut donc réduire les questions "éthiques" à celles qui seront validées comme "réelles". Selon quelle procédure ? Une "série de débats"... Avec quels intervenants ? Le premier est M. Paul Duan, qualifié de "petit génie de la Silicon Valley" (par Le Figaro) et de "finaliste de la compétition de 'l'entrepreneur de moins de 30 ans qui va changer le monde' " (par Forbes Magazine). M. Duan promet de résoudre le chômage par des algorithmes (négligeant le fait que le chômage est un effet structurel du capitalisme tardif). Il est "le super-héros de la data-science", selon TechMeUp, parce qu'il a lancé "une ONG qui utilise le big data pour résoudre des problèmes de société". Le big data extrapole l'algorithme à tous les domaines, non seulement de l'économie, mais du social, voire de l'existence humaine... Si c'est de M. Duan (et de ses pareils) que la CNIL attend des solutions, on devine à quoi elles ressembleront. On devine également à quoi se réduiront les questions éthiques "réelles" : si le "réel" se confond avec l'économie-monde, les dimensions non-marchandes de la vie sont évacuées dans l'irréalité. 

C'est ce que le pape François nomme "le culte de l'idole Argent".

 

_________

[1]  David Noble, Progress without People (New York 2001). En français. : Le Progrès sans le peuple (Agone 2016).

 

 

1314079432.jpg

 

Commentaires

IDOLE

> Idole est le mot. L'homme adorant ce qu'il a fabriqué. Tous les films voulant attendrir sur le gentil robot qui apprend à aimer etc : culte des idoles. Rendez-nous les baalim, au moins c'était agraire.
______

Écrit par : maksoud / | 26/01/2017

SPIEL

> Le comble de tout cela, c'est que comme le big data fascine, les entreprises vont investir des milliards qui ne seront pas du tout rentables pour elles, mais seulement pour les consultants qui vendent ces miroirs aux alouettes aux dirigeants naïfs.
Pendant ce temps les salariés travaillant sur des technologies anciennes assurent les profits nécessaires à ces lubies.
Exactement comme dans les banques lorsque des milliards sont perdus en "spiel" alors que la banque de détail assure un revenu récurrent.
______

Écrit par : Ludovic / | 26/01/2017

CERCLE

> CNIL = Le Cercle Numérique d'Innovation Libérale... Toujours et partout, Le Cercle (de D. Eggers)... Son centre est partout, sa circonférence nulle part... Allons couper du bois.
______

Écrit par : Alex / | 26/01/2017

HOMMES MACHINES

> Simples prolongements de leurs prothèses numériques, accros aux réseaux sociaux qui les isolent de leurs semblables en leur permettant d'être partout...sauf où il devraient être, les hommes ne sont plus que des machines.
Parallèlement, les machines "s'humanisent". Evénement qui est passé presque inaperçu, il y a quelques mois : pour la première fois, un ordinateur a battu un champion de go. Ce que l'on pensait jusqu'alors rigoureusement impossible, le jeu de go faisant appel à des qualités- notamment d'intuition- purement...humaines (pour info : cela fait maintenant un bout de temps que les programmes d'échec les plus puissants peuvent battre n'importe quel adversaire humain). Certains pensent même que, d'ici 30 ans, les machines n'auront plus besoin de nous. Elles pourront décider de leur destin, se reproduire (évidemment, c'est encore un peu - un peu- de la SF).
On ne sait même plus ce qu'est être un homme. On ne sait même plus ce qu'est le réel (surtout que la physique quantique nous enseigne qu'il n'y pas une, mais une infinité de réalités). Plus que vers la transhumanité, on s'engage vers la transréalité, là où le temps et l'espace sont abolis...
Qu'est l'homme dans tout cela ? Une monade absurde ? J'ai remarqué récemment que, pour un être humain qui s'est retranché du monde des vivants, on parle de moins en moins de "suicide", et de plus en plus d'"autolyse". Ça fait réaction chimique, sans affect, sans connotation morale. Je crois que l'on a dépassé le stade de la Culture de mort...
______

Écrit par : Feld / | 26/01/2017

TRANSHUMANISME

> Dc Laurent Alexandre, apôtre du transhumanisme est a écouter au moins pour comprendre de quoi il s'agit. Sur les orientations à prendre, c'est autre chose. A mon avis, dans son équation, il oublie la transition écologique déjà commencée, il s'imagine dans un monde illimité, mais ce monde risque la panne sèche, alors il verra ce qu'est de vivre dans la vrai vie. Il oublie aussi la réaction"des populistes".
Voici la vidéo : https://www.youtube.com/watch?v=rJowm24piM4
______

Écrit par : P. Girard / | 28/01/2017

UN FUTUR MORT

> L'idolâtrie du rationnel est basée sur la peur.
Tandis que la peur des algorithmes prenant les décisions à notre place est l'intuition que le tragique de la vie ouvre l'avenir alors que l'évacuation du négatif transforme l'avenir en un futur réifié, mort.
Les meurtres islamiques sont le pendant de l'ordonnancement du futur, ils en sont la face cachée.
______

Écrit par : Renaud / | 29/01/2017

Écrire un commentaire

NB : Les commentaires de ce blog sont modérés.