La prochaine Bastille qui brûlera sera un hangar plein d’ordinateurs
Xavier de La Porte | France Culture
Et si, sans le savoir, nous étions prisonniers ? Et si, au moment même où certains pensent se libérer d’un pouvoir, ils tombaient sous l’autorité d’un autre pouvoir, moins visible, moins physique, mais tout aussi autoritaire ? Et si nous étions tous prisonniers des algorithmes ?
C’est la thèse développée récemment par un journaliste de la revue américaine The Atlantic, Bill Davidow, et qui fait écho – sans le savoir sans doute – au travail mené par deux chercheurs belges, Antoinette Rouvroy et Thomas Berns.
Depuis plusieurs années déjà ceux-ci parlent de « nouvelle gouvernementalité algorithmique » et montrent que nous sommes en passe de nous soumettre à un nouveau genre de pouvoir : celui des programmes informatiques.
Notre solvabilité, nos goûts et nos dépenses
Intuitivement, on sent bien que de plus en plus de nos gestes de la vie quotidienne, d’interactions avec les autres, sont dépendants de programmes informatiques, mais de là à parler de prison, il y a peut-être un pas. Bill Davidow le franchit allègrement. Et il ne manque pas d’arguments.
Les gouvernements et les entreprises, explique-t-il, utilisent l’information d’une manière inédite : grâce à d’énormes bases de données le plus souvent puisées sur Internet, grâce à des algorithmes fins et puissants qui fouillent ces données, ils nous profilent, prévoient nos actes, notre solvabilité, nos goûts, nos dépenses, et ils agissent en conséquence.
Ainsi nombre d’Américains se voient-ils refuser un prêt, imposer une augmentation de leur police d’assurance ou refuser un emploi parce les algorithmes l’ont conseillé. La voilà cette prison algorithmique.
Interdits de vol sans le savoir
Vous pensez que Bill Davidow est un peu paranoïaque. Eh bien sachez que le service chargé aux Etats-Unis de la sécurité des transports utilise un programme du nom de « Automated Targeting System », dont l’algorithme confronte des données comme :
· les feuilles d’impôts ;
· les voyages précédents ;
· les titres de propriété ;
· les caractéristiques physiques ;
· le casier judiciaire et autres informations provenant des services de renseignements, pour établir la dangerosité d’un passager.
Plusieurs centaines d’Américains auraient ainsi leur nom sur une liste d’interdits de vol, sans même le savoir.
Vous pensez que de tel procédé sont réservées à la sécurité ? Une entreprise du nom de The Gild a inventé un algorithme qui prédit les capacités des programmeurs informatiques en allant voir les lignes de codes qu’ils ont écrites dans des programmes open source, comment ils ont établi leur profil sur LinkedIn (un réseau social professionnel) ou comment ils répondent aux questions dans les forums informatiques.
Spécialité : le renseignement client
Vous pensez que c’est réservé aux informaticiens ? Mais les algorithmes contraignent votre espace sur Internet, vous le savez au moins intuitivement. Les liens qui vous sont proposés, les publicités qui s’affichent sur votre écran, et dans une certaine mesure les résultats des moteurs de recherche, sont déterminés par des algorithmes, en fonction de ce qu’ils savent de vous.
Vous pensez que tout cela est réservé à votre vie en ligne ? Il existe aux Etats-Unis une quarantaine d’entreprises répertoriées pour faire du renseignement client.
Ces entreprises fournissent des dossiers aux banques, aux sociétés de crédit, aux établissements de jeu, aux compagnies d’assurance, aux sociétés de location, ou à une entreprise qui voudrait connaître l’historique professionnel de quelqu’un.
Un contrôle invisible et à bas coût
Ainsi il n’y a pas UNE prison algorithmique, mais une multitude de ces prisons. Parce que gouvernement et entreprises ont toujours eu cette tentation de contrôle invisible des populations mais surtout, parce qu’il est possible aujourd’hui de l’établir à un coût très bas.
Le problème de ces prisons algorithmiques, c’est qu’on ne sait pas où sont les barreaux, mais on ne sait pas vraiment non plus où sont les geôliers. D’où provient l’algorithme qui me refuse un prêt ? De quelle entreprise ? Ou est-ce un programme de ma banque ? Et puis, comment savoir quel comportement l’algorithme sanctionne ou encourage ? Tout cela est encore peu encadré.
Ce qui se joue donc – et ce n’est plus Bill Davidow qui le dit, mais Antoinette Rouvroy –, c’est une nouvelle forme de pouvoir qui ne s’exerce plus sur nos corps dans le présent (comme le fait une prison) mais sur nos comportements à venir.
Contre cette forme de pouvoir, il est dur de se rebeller, parce qu’il ne fait pas couler le sang, ne tue pas. A quoi ressembleront les révolutions de demain ? A quoi ressembleront les Bastilles que nous brûleront ? Sans doute à des hangars pleins d’ordinateurs.
Collé à partir de <http://rue89.nouvelobs.com/2014/02/24/banquier-refuse-pret-les-conseil-dun-algorithme-250200>