Volkswagen : les défis des pouvoirs publics à l’ère des algorithmes

En 2015, on ne conduit plus des voitures, mais des ordinateurs. Il y a davantage de lignes de code informatique dans une automobile qui arrive aujourd’hui sur le marché que dans l’accélérateur de particules du CERN, l’intégralité de Facebook ou un avion de chasse F-35. Une voiture, quelques plaques de tôle et quatre roues autour d’un ordinateur ?

La comparaison est bien sûr simpliste, mais montre l’importance qu’a prise l’informatique dans l’automobile. Sans ordinateur, la voiture contemporaine ne peut plus freiner, tourner, ou se garer. Et bientôt se conduire. Les voitures autonomes que les géants du logiciel Google et Apple font ou vont faire rouler sur les routes américaines – et bientôt les nôtres – sont une preuve supplémentaire de la conquête de l’informatique sur l’automobile.

Impuissance des pouvoirs publics

Le scandale qui touche Volkswagen tend à le confirmer. Car la supercherie qui ébranle la marque allemande prend sa source au cœur des programmes qui équipent ses véhicules. Le constructeur y avait dissimulé un dispositif permettant de faire croire à l’agence américaine de l’environnement (EPA) que les véhicules se conformaient aux normes antipollution.

S’arranger, aux moyens de logiciels, avec les tests antipollution est une pratique courante chez les constructeurs automobiles, qui profitent de l’impuissance croissante des pouvoirs publics, dont le pouvoir s’arrête de plus en plus là où commence le code informatique.

L’EPA aurait pu déjouer la manœuvre de Volkswagen. Mais pour cela, elle aurait dû s’intéresser non pas aux particules émises, mais à la manière dont le programme équipant les voitures pouvait les moduler. Ce n’est donc plus seulement d’experts chimistes dont l’administration a besoin, mais d’informaticiens.

Opacité du logiciel

Ce que montre aussi l’affaire Volkswagen, c’est que les logiciels, écrits par des hommes et des femmes, se truquent, se buguent, se manipulent, se piratent. Aussi évolués soit-ils, les erreurs et les errements de l’informatique sont en fait ceux des humains qui la construisent.

Or il est extraordinairement compliqué de connaître le mode de fonctionnement d’un logiciel à partir du produit fini. Il ne peut être compris qu’en inspectant ses lignes de code, son ADN. Quand bien même l’EPA aurait été dotée des moyens et des compétences nécessaires, il y a fort à parier qu’elle se serait heurtée à l’opacité du produit du constructeur allemand.

Aujourd’hui, la majeure partie des programmes informatiques obéissent aux lois implacables de la propriété intellectuelle : les lignes de code sont autant de secrets industriels et d’avantages compétitifs qui doivent rester secrets.

Quelle est alors la marge de manœuvre de la puissance publique dans un monde où de plus en plus de décisions sont prises par des programmes informatiques dont la composition est secrète ? La réponse peut se trouver dans le combat mené depuis longtemps par des universitaires et des experts en sécurité informatique, qui militent pour rendre les logiciels plus transparents. Les acteurs de ce mouvement, celui du logiciel libre, n’ont de cesse de répéter que seul un code informatique ouvert est contrôlable et donc susceptible de respecter les droits de ses utilisateurs.

« Code is law »

Ce combat d’une grande modernité a débuté dès les années 1980. Il va devenir crucial à mesure que les ordinateurs et les logiciels qui les équipent investissent les transports, l’énergie, les objets du quotidien. Demain, les voitures autonomes peupleront nos routes, nos maladies seront diagnostiquées par des machines et même nos gouvernements utiliseront des algorithmes pour prendre leurs décisions. Qui pourra s’assurer que ces logiciels respectent les règles du jeu démocratique ?

« Code is law », « le code, c’est la loi », professait dès les années 1990 l’universitaire américain Lawrence Lessig. Les algorithmes doivent être plus transparents, défendait l’année dernière, dans un autre registre, le Conseil d’Etat dans son rapport annuel sur le numérique.

L’automatisation de notre environnement peut, évidemment, pallier les défauts des humains. Une voiture autonome sera-t-elle, au fond, plus dangereuse qu’un conducteur en chair et en os ? Probablement pas. Mais si les pouvoirs publics veulent conserver un semblant de leur pouvoir démocratique, il leur faudra quoiqu’il arrive déjouer l’obscurité des algorithmes.

·                                      Martin Untersinger
Journaliste au Monde

Collé à partir de <http://www.lemonde.fr/pixels/article/2015/09/24/volkswagen-les-defis-des-pouvoirs-publics-a-l-ere-des-algorithmes_4770138_4408996.html>