Dans un article du blog du Monde.fr, Pixels, Cathy O’Neil, mathématicienne et ex-analyste à Wall Street, étudie les dérives des algorithmes qui influencent tous les domaines de la société et qu’elle décrit dans son livre « Algorithmes, la bombe à retardement ».
Son constat est franchement alarmant. Elle qualifie certains de ces algorithmes d’ « armes de destruction mathématique », en particulier dans le domaine de la finance, mais pas seulement : elle évoque l’ algorithme Compas, qui évalue la probabilité pour un 
prévenu de se faire arrêter à nouveau dans les deux ans à venir, très contesté. Elle dénonce le fait qu’ “on n’a aucun moyen de tester les hypothèses, et même quand on pourrait le faire, on ne le fait pas !” Elle dénonce aussi les algorithmes chargés de distinguer “les consommateurs à haute valeur des consommateurs à faible valeur“, ou les algorithmes qui, par le biais des réseaux sociaux, manipulent émotionnellement, ce qui a de nombreuses conséquences.
L’article rend les algorithmes responsables de bien des maux, comme s’il s’agissait d’objets autonomes et mus de volonté. On pourrait oublier que les algorithmes ne font jamais que ce que des humains leur demandent…
One thought on “Armes de destruction mathématique”