Clearview AI, le Big Brother qui aspire les photos

Hoan Ton-That, créateur de Clearview, cherche des images de lui
grâce à son application de reconnaissance faciale, à New York, en
janvier 2019. AMR ALFIKY/NYT-REDUX-REA

Arnaud Leparmentier

La start-up américaine, qui détient des milliards de clichés privés, utilise la reconnaissance faciale pour aider la police à résoudre des enquêtes. Ses pratiques inquiètent, y compris en Europe

NEW YORK - correspondant

Trente-cinq ans de prison : c’est la peine à laquelle a été condamné, en septembre 2020, le pédocriminel argentin Andres Viola par un tribunal fédéral de Las Vegas (Nevada). Un an plus tôt, l’homme avait été arrêté par la police fédérale, le FBI, à son domicile dans la capitale du jeu. Les enquêteurs américains n’avaient guère d’indice pour le traquer, juste une série de clichés trouvée sur

le dark Web sur le compte d’un Syrien, qui montraient une petite fille agressée sexuellement. Sur l’une des photos, le visage de l’homme, pas très net.

La base de données du FBI ne donne rien, mais un enquêteur a l’idée de faire passer la photo au filtre de Clearview AI : cette start-up américaine prétend avoir aspiré 10 milliards de photos disponibles sur le

Web, qu’il s’agisse de Facebook, Twitter, Vimeo ou d’autres sites. Soudain, un cliché ressort, qui semble correspondre : il s’agit d’un homme, en arrière-plan d’une photo prise dans une salle de gymnastique, à Las Vegas. Un couple de sportifs musclés a fait un selfie et a photographié Andres Viola sans y prêter

attention. Le FBI remonte le fil, débarque dans le club de sport, trouve le compte Facebook de Viola, qui est identifié puis arrêté. L’homme a plaidé coupable.

L’histoire fait partie des réussites vantées par Clearview AI sur son site Internet. Son fondateur, Hoan

Ton-That, entrepreneur de 33 ans d’origine australienne et vietnamienne, assume son objectif, à savoir aider la police. « J’ai créé cette technologie de reconnaissance faciale indirecte connue dans le monde entier a~n d’aider à rendre les communautés plus sûres et de permettre aux forces de l’ordre de résoudre des crimes odieux contre des enfants, des personnes âgées et d’autres victimes d’actes sans scrupule », confie par courriel Hoan Ton-That.

Sur son site, Clearview AI, qui figure dans le palmarès 2021 des cent entreprises les plus influentes au monde établi par le magazine Time , multiplie les exemples à la gloire de son système de reconnaissance faciale pour faire régner l’ordre et la justice.

Cheveux longs, visage fin, élevé dans le souvenir de ses ancêtres membres de la famille royale vietnamienne, Hoan Ton-That a commencé par lancer des start-up dans la Silicon Valley, sans succès, l’une d’entre elles étant accusée d’être une arnaque.

Démonstration édifiante

Après avoir envisagé une carrière de mannequin, il déménage à New York et se plonge dans l’intelligence artificielle. Aidé à hauteur de 200 000 dollars (175 000 euros) par Peter Thiel, le fondateur de l’entreprise Palantir – qui a aidé à capturer Oussama Ben Laden –, et financé par ses achats fructueux de bitcoins, le jeune ingénieur a mis au point un logiciel sans rival. Résultat, lorsque Hoan Ton-That a proposé, en février 2017, d’aider la police de l’Indiana à enquêter sur une fusillade, l’identité du tireur a été trouvée en vingt minutes. « Il n’avait pas de permis de conduire et n’avait pas été arrêté à l’âge adulte. Il ne ~gurait donc pas dans les bases de données gouvernementales», avait à l’époque déclaré au New York Times Chuck Cohen, capitaine dans la police de l’Indiana.

L’entreprise fait fureur auprès de toutes les polices américaines. Selon BuzzFeed, plus de 1 800 agences gouvernementales ont eu recours à son logiciel, y compris le FBI ou le Secret Service. La facturation se fait le plus souvent par abonnement annuel, allant de 10 000 dollars à plus de 250 000 dollars.

Clearview AI a surtout déclenché un tollé lorsque la journaliste du    New York Times Kashmir Hill a révélé, en janvier 2020, l’existence de cette « entreprise secrète qui pourrait mettre ~n à la vie privée telle que nous la connaissons ».« Les Américains ont le droit de savoir si leurs photos personnelles sont secrètement aspirées dans une base de données privée de reconnaissance faciale », avait alors tweeté le sénateur démocrate de l’Oregon Ron Wyden.

La grande force de Clearview AI réside dans ses milliards de clichés. D’après le New York Times, le FBI n’en a que 410 millions, la police de Floride, 47 millions, et celle de Los Angeles, 8 millions. Il s’agit en général de photographies de permis de conduire ou prises par les autorités. Aujourd’hui, quiconque publie la photo de sa grand-mère dans un dîner de famille sur Facebook la fait entrer à son insu dans les données de la société de Hoan Ton-That.

L’entrepreneur a fait une démonstration édifiante de son logiciel à la chaîne CNN : une des journalistes découvre ses photos qu’elle croyait protégées par son compte privé Instagram. Certes, mais ce compte était naguère public. Un second reporter se masque le bas du visage, mais il est tout de même détecté. Explication : le logiciel est des plus fiables en ce qu’il mesure les données invariables du visage (la

distance entre les yeux, par exemple).

Reste que, en 2019, une étude fédérale américaine avait accusé les logiciels de se tromper cent fois plus lorsqu’il fallait identifier un Noir ou un Asiatique. En cause, la faiblesse des bases de données, la luminosité plus faible et les traits plus lisses. Hoan Ton-That balaie ces reproches et revendique un taux de fiabilité de 99,85 %, test d’une agence fédérale à l’appui. Nul n’a été condamné ni arrêté à la suite d’une erreur de son logiciel, assure encore celui qui veut faire breveter son système.

Clearview AI a le vent en poupe depuis l’assaut du Capitole par les partisans de Donald Trump, le 6 janvier 2021, qui a fait exploser la demande. « La technologie de reconnaissance faciale se métastase dans l’ensemble du gouvernement fédéral, et je suis profondément préoccupé par cette tendance à une surveillance accrue », déplore dans Politico le sénateur démocrate du Massachusetts, Ed Markey.

En découvrant, début 2020, les pratiques de Clearview AI, Twitter l’a accusée de violer ses conditions commerciales et a exigé qu’elle cesse de collecter ses images, tout comme YouTube (propriété de Google) et Facebook. L’entreprise de Hoan Ton-That a pris de court les géants de la Silicon Valley, qui avaient renoncé à cette technologie contestée. « C’est la seule technologie que Google a construite et que nous avons décidé d’arrêter», avait déclaré son PDG, Eric Schmidt, dès 2011.

O~ensive étrangère

Facebook s’en est retiré en novembre 2021. « La reconnaissance faciale suscite de nombreuses inquiétudes et les régulateurs sont toujours en train de travailler aux règles d’utilisation. Nous pensons qu’il convient de limiter [son] utilisation», écrit Jerome Pesenti, responsable de l’intelligence artificielle chez Facebook. L’enjeu est de savoir quelle énergie déploieront ces firmes pour stopper les pratiques de Clearview AI. « S’ils ne font que parler, rien n’arrivera », estime Eric Goldman, professeur spécialiste du droit privé sur Internet à l’université de Santa Clara, dans la Silicon Valley.

Faute de loi fédérale américaine sur la protection des données privées, l’offensive émane de l’étranger. Alerté par l’enquête du New York Times, le Canada s’est attaqué, début 2021, à l’entreprise, qui compte une cinquantaine de clients privés ou publics. « La collecte de milliards d’images par Clearview représente une surveillance de masse contraire aux lois sur la vie privée », confie Daniel Therrien, le commissaire fédéral responsable de la protection de la vie privée. Son action a conduit la société à se retirer du pays et à résilier son contrat avec son client le plus célèbre, la gendarmerie royale du Canada.

« C’est un succès», se réjouit M. Therrien, qui note que son action a été « bien reçue par la population ». En novembre 2021, cela a été au tour de l’Australie et du Royaume-Uni d’accuser la firme de violer leur législation. Londres lui a infligé une amende de 17 millions de livres (20,4 millions d’euros).

Sur le Vieux Continent, l’Union européenne (UE) avait signifié à Europol, dès mars 2021, que l’usage de Clearview AI était illégal. Enfin, le 16 décembre, la Commission nationale de l’informatique et des libertés (CNIL) a enjoint à l’entreprise de cesser la collecte de ses données en France et de supprimer celles concernant ses ressortissants qui en feraient la demande. Son secrétaire général adjoint, Mathias Moulin, rappelle qu’à terme la société de Hoan Ton-That peut recevoir une amende égale à 4 % de son chiffre d’affaires.

Le chemin est tortueux, mais la pression étrangère n’est pas nulle. Si Clearview AI, qui, à l’été 2021, a levé 30 millions de dollars, valorisant l’entreprise 130 millions de dollars, est persona non grata dans les pays occidentaux, ses perspectives de croissance seront entravées. Comme l’explique Mathias Moulin, la CNIL et ses homologues européennes ont envoyé « un message » d’avertissement aux administrations et aux entreprises du Vieux Continent tentées d’utiliser les services de la start-up américaine: « Attention, vous seriez en état d’illégalité», explique M. Moulin.

« J’ai le cœur brisé par l’interprétation erronée de certains en France, où nous ne faisons pas d’affaires », assure pour sa part Hoan Ton-That. « Clearview Ai n’a pas d’établissement en France ou dans l’UE. Elle n’y a aucun client et n’entreprend aucune activité qui signi~erait autrement qu’elle est soumise au RGPD », le règlement général sur la protection des données en vigueur en Europe.

L’entrepreneur invoque son droit à l’information garanti par le premier amendement de la Constitution des Etats-Unis et assure respecter le quatrième, qui protège contre l’intrusion excessive du pouvoir exécutif.

La firme prétend ne pas opérer outre-mer et ne travailler que pour les institutions. Mais en 2020, une enquête de BuzzFeed a révélé que de nombreuses organisations privées, comme la Ligue professionnelle nord-américaine de basket (NBA) ou Walmart, avaient fait des essais gratuits.

Clearview AI s’est aussi engagée à ne pas travailler pour des régimes autoritaires tels que la Chine et la Russie. Elle assure que son outil n’est pas utilisé en direct pour la reconnaissance, comme le fait Pékin à grande échelle. Le juriste Eric Goldman ne croit guère à ces promesses: « Je suis sceptique sur la belle histoire de Clearview qui ne travaillerait qu’avec les gentils. »