Les machines sont-elles racistes?

07.06.2016 - 7 h 11

Capture Google.

Neutres les algorithmes? Pas autant que certains aimeraient le croire. Malheureusement, de nombreux internautes, notamment Afro-américains, en ont fait la découverte.

Dans un sketch diffusé fin décembre sur Comedy Central, Amy Schumer, nouvelle reine trash de la comédie américaine, imagine le personnage de Martin Daniels, photographe de mariage spécialisé dans les unions interraciales. «Vous méritez le meilleur, pas un connard incapable de capturer sur la même photo deux couleurs de peau différentes.»

Une façon de tacler l’industrie de la photographie longtemps accusée de proposer des appareils qui ne savaient pas photographier, en même temps, des Blancs et des Noirs. Et qui arrive à point nommé, à un moment où la technologie fait face à des accusations de racisme de toute part.

L’été dernier, Google a dû éteindre l’incendie après qu’un internaute a remarqué que la recherche «nigga house» sur Google Maps renvoyait à la Maison Blanche (oupsie). En décembre, le Huffington Post découvre qu’à la question: «Que veut dire le mot bitch?», Siri dérape en répondant: «Une femme, en “argot noir”.» Deux mois plus tôt, un filtre Snapchat avait malencontreusement confondu les yeux d’un utilisateur noir avec ses narines, collant dessus de faux yeux animés rigolos. Les machines sont-elles racistes? Pas plus que ceux qui les utilisent. La seule différence, c’est qu’elles ne connaissent pas le politiquement correct. Enquête.

«Je comprends bien COMMENT cela a pu arriver, le problème, c’est POURQUOI.» Voilà ce que tweetait en juin dernier Jacky Alciné, après s’être fait traiter de gorille par le logiciel de reconnaissance faciale de Google qui l’avait identifié par erreur lui et une amie comme étant des primates. «C’est comme ça qu’on se rend compte qui est vraiment le marché cible d’un produit», regrettait l’internaute, dont le cas n’est pas isolé, puisque sur FlickR, des utilisateurs ont aussi été «confondus» avec des singes.

White techno

«La technologie n’est pas raciste par essence, tempère Jacques Henno (1), journaliste spécialiste des nouvelles technologies. Mais elle est pensée et testée par des Blancs jeunes pour des Blancs jeunes.» Un ethnocentrisme qui n’a pas épargné Instagram. Vous trouvez que ses filtres rehaussent vos photos sans âme? Peut-être, mais en passant, ils «whitewash» aussi les peaux foncées. Ce qui a valu aux fans de la chanteuse américaine Dawn Richard de la soupçonner de s’être fait blanchir la peau. En bref, faute d’apparaître comme un marché suffisamment intéressant, les minorités doivent se contenter d’une technologie qui leur correspond «à peu près».

Ce racisme par défaut rappelle celui dont a été accusé Kodak dans les années 1970, quand Jean-Luc Godard refusait d’utiliser ses pellicules incapables de fixer correctement les peaux foncées. «À l’époque, ils savaient que les peaux noires ne rendaient pas bien en photo. Mais les consommateurs de leurs films étaient des Blancs. Les ingénieurs ont calibré les appareils sur l’épiderme d’une femme blonde à la peau pâle appelée Shirley. C’est elle qui a donné son nom à la “Shirley Card”, la charte des couleurs utilisées comme référence dans le développement photographique», explique Lorna Roth, chercheuse à l’université de Concordia. Elle est l’une des seules à s’être réellement intéressée à cette discrimination picturale, qui a pris fin suites aux plaintes… de l’industrie du chocolat et de l’ameublement.

Nous entraînons nos systèmes à être racistes, puis nous blâmons les technologies. Or, ces dernières se contentent de reproduire et d’amplifier les préjudices existants

C’est pour que leurs produits rendent bien en photo que Kodak a fini par revoir sa «balance des noirs» et proposé une «multiracial card» en… 1996. «Idéologiquement c’est odieux, et économiquement c’est idiot, tranche Louis-Georges Tin, président du Conseil représentatif des associations noires de France (Cran). L’argument économique a changé (les minorités sont une part de ce marché), mais l’argument idéologique (le Blanc est la norme), lui, persiste.»

Malgré les vœux pieux de la Silicon Valley, qui dit ne cesser de s’intéresser à sa propre diversité («le futur d’Apple», selon Tim Cook), les chiffres ne suivent pas. Selon le New York Times, en 2015, une écrasante majorité des employés de Google sont caucasiens (60%), 3% sont hispaniques, 2% sont noirs. (Et 30 % sont des femmes, mais c’est un autre sujet).

Racisme digital

On a partagé les photos de chats coiffés comme Donald Trump. On s’est tapé sur les cuisses avec les détournements de l’homme en slip et à la pelle. Et on s’est même entraîné à imiter «Sad Keanu Reeves». Problème: les mèmes internet, symboles de la culture LOL et grand divan du Web, ont quand même le teint un peu pâlot. Sauf quand ils sont particulièrement cruels, à en croire un papier du quotidien afro-américain The Root, qui s’interroge sur le phénomène des «black viral star».

En janvier, le débrief très habité de Michelle Dobyne, habitante de Tulsa et Afro-Américaine tout juste rescapée d’un incendie, est remixé et devient viral. Autre interview dramatique transformée en tube pop: celle d’Antoine Dodson qui, en 2010, raconte la tentative de viol dont a été l’objet sa sœur. Le remix (qu’on peut trouver sur iTunes) a été vu 131 millions de fois, forçant le Huff Post à s’interroger: «Rit-on avec eux, ou rit-on d’eux?».

Et si le Web fonctionnait comme une forme d’inconscient collectif ? «Nous entraînons nos systèmes à être racistes, puis nous blâmons les technologies, confirme Danah Boyd, papesse de l’anthropologie des nouvelles technologies. Or, ces dernières se contentent de reproduire et d’amplifier les préjudices existants.» De quoi expliquer, en partie, le lapsus des «algorithmes racistes».

Le problème était déjà pisté en 2013 par Latanya Sweeney. Cette chercheuse en informatique à Harvard a remarqué que lorsque l’on tape un nom à consonance afro-américaine dans Google, le service de publicités ciblées renvoie vers des sites de consultation de casier judiciaire. Un constat dont The Good Wife, série de CBS particulièrement attentive à l’actualité, se fait l’écho dans sa dernière saison. L’avocate Alicia Florrick doit défendre ChumHum (le Google de la série), dont l’application de géolocalisation est accusée de profilage raciste. Malheureusement, la réalité est plus dérangeante encore –comme tout ce qui touche à l’inconscient.

«Un algorithme n’a pas d’intention, rappelle Dominique Cardon (2), spécialiste du numérique et d’internet. On ne connaît pas la recette de l’algorithme de Google, mais on sait qu’ils se basent sur la pratique des internautes.» Ce serait donc notre comportement numérique qui serait responsable du racisme latent de Google, accusé de proposer intuitivement le terme «puent» quand on tape «Pourquoi les Noirs…» dans sa barre de recherche. Ou des liens vers les sites de Pôle emploi ou de la CAF quand on cherche des infos sur la mosquée de Strasbourg. Et de répondre «les Juifs» à la question

«Qui contrôle Hollywood?». Google a depuis corrigé le tir en supprimant «à la main» ces suggestions. Aujourd’hui, quand on tape «Pourquoi les Noirs…» sur Google, la première proposition est «aiment le KFC». Beau progrès…

L’autre fracture numérique

Et si finalement, le Web n’était pas cet immense kibboutz numérique sur lequel chacun tendrait la main à son prochain sur un air d’«Heal the World» de Michael Jacskon? «C’était vrai entre 1989 et 1998, date à laquelle internet est devenu grand public. Avant, sur les chats et les forums, Alpha32 et Giga27 échangeaient sans préjugés. Aujourd’hui, c’est Kevin et Mohammed. Il n’y a plus d’anonymat», analyse Olivier Ertzscheid, chercheur en sciences de l’information. Et sans cet anonymat, Internet s’est mis à reproduire les discriminations de la vie IRL.

On est passé d’une utopie universelle et libertaire à la construction d’audiences spécifiques

En 2008, des chercheurs de l’université de Northwestern s’intéressent au jeu en ligne There.com (une sorte réalité virtuelle à la Second Life). À l’aide d’une mise en situation assez simple (deux avatars, un noir et un blanc, vont demander le même service), ils constatent que 20% des internautes acceptent la requête de l’avatar blanc, 8% celle de l’avatar noir. En 2006, les joueurs asiatiques de World of Warcraft décrivaient les mêmes discriminations. «On est passé d’une utopie universelle et libertaire à la construction d’audiences spécifiques», résume Olivier Ertzscheid.

Des communautés qui cherchent à se différencier et à s’éviter comme dans la vraie vie, histoire de marquer leur supériorité. Une sorte de gentrification en ligne qu’a observée dès 2007 Danah Boyd: à cette époque, les populations blanches et aisées commencent à délaisser MySpace (et ses utilisateurs majoritairement noirs et issus des classes populaires) au profit de Facebook (où il n’y a encore que des Blancs). Comme si le premier était devenu un quartier un peu trop craignos pour qu’on continue de s’y rendre. «Aujourd’hui, les mêmes mécanismes de séparation ethnique et sociale sont à l’œuvre sur Vine ou Instagram», explique-t-elle.

Pour lutter contre ces discriminations online, une nouvelle forme de militantisme a progressivement fait son apparition. «Le Web fonctionne selon la théorie américaine de la libre expression: on ne censure pas les racistes, mais on demande aux discriminés de s’exprimer», rappelle Dominique Cardon. Pour protester contre les banques d’images un peu trop blanches, des internautes noirs ont ainsi lancé des hashtags comme #flexinmycomplexion, tandis qu’une graphiste suédoise, Johanna Burai, a diffusé le projet World White Web, qui permet de télécharger gratuitement des photos de mains de couleur. Et fin 2015, le collectif Project Enye a émis une pétition pour que Twitter accepte (enfin) la «ñ», le «gneu» espagnol, dans les noms d’utilisateurs. Pour l’instant Iñstagram n’a pas encore commenté.

1 — Jacques Henno, Silicon Valley, prédateurs vallée? 2011, Télémaque note Retourner à l'article

2 — Dominique Cardon, À quoi rêvent les algorithmes?, 2015, Seuil Retourner à l'article

Collé à partir de <http://www.slate.fr/story/119103/les-machines-sont-elles-racistes>