L'algorithme ignore l'histoire

Aveuglément programmé, dénué de "mémoire" historique, le robot de Facebook a censuré cette célèbre photo (de la guerre du Vietnam) en la prenant pour... une image pédophile  :

 

Fuyant un bombardement aérien, une fillette touchée par le napalm court en hurlant de douleur : cette photo est l'une des plus célèbres du XXe siècle. Elle fut prise le 8 juin 1972 près de Trang Bang,au Sud-Vietnam, par le photographe de presse Nick Ut Cong Huynh. La petite fille a 9 ans. Elle s'appelle Phan Thi Kim Phuc. Le photographe et l'un de ses confrères la conduiront à l'hôpital de Cu Chi, sur la route de Saigon. Au prix de 17 interventions chirurgicales et 14 mois de soins intensifs, Kim Phuc sera sauvée. Elle vit aujourd'hui à Toronto, elle a deux enfants, l'Unesco l'a nommée goodwill ambassador.

Le moins qu'on puisse dire est que ce n'est pas une inconnue.

Mais c'en est une pour les robots. A la fin du mois d'août, l'algorithme de censure de Facebook efface cette célébrissime photo sur les pages de l'écrivain norvégien Tom Egeland  et d'internautes qui l'ont relayé ; parmi ceux-ci la Première ministre de Norvège Erna Solberg, cf. capture d'écran ci-dessus. Motif de cette censure aveugle : une fillette nue figurant sur la photo, le robot l'a interprétée comme pédopornographique. (Ce qui transforme d'ailleurs en suspects tous ceux qui l'ont relayée).

C'est d'une stupidité monumentale.

L'écrivain Egeland et Mme Solberg protestent. Un tollé sans frontières éclate contre l'entreprise de Mark Zuckerberg.

Mais il faudra trois jours avant que Facebook ne s'avise du scandale ; et cinq autres jours avant que M. Zuckerberg ne donne l'ordre de rétablir le post effacé.

Qu'une photo historique (éminemment "morale") ait pu être censurée par un robot, démontre plusieurs choses :

1. Le robot seul est aux commandes. Jusqu'à une date récente, ce type de censure était géré par des êtres humains salariés de Facebook. Ils ont été licenciés : "l'économie de services" veut toujours moins d'emplois.

2.  Facebook a mis plusieurs jours avant de réaliser qu'il y avait un problème :  le job des managers est la finance, pas les contenus.

3.  Le règne des algorithmes est destiné à s'étendre sans limites. On en voit le résultat dans le domaine de l'information. On le voit aussi dans celui de la culture (remember Fleur Pellerin). On le verra très vite dans la politique, la fonction publique, toute la vie sociale et jusque dans l'intime de la vie quotidienne de chacun : je conseille de lire le roman de Dave Eggers Le Cercle, qui en dit long sur les véritables buts des milliardaires des réseaux "sociaux". Nous entrons dans l'ère de l'ineptie robotique.

 

 

La presse norvégienne prend à partie Zuckerberg, le tycoon de Facebook.