Gouvernementalité algorithmique

La gouvernementalité algorithmique est l’idée d’un gouvernement qui serait fondé sur le traitement algorithmique des données massives plutôt que sur la politique, le droit et les normes sociales. Cette nouvelle forme de pouvoir se développe énormément, au vu de la croissance exponentielle du big data et de l’intelligence artificielle (IA). Bien qu’étant un concept relativement récent, la gouvernementalité algorithmique commence à apparaître dans la sphère publique. Des tables rondes et des conférences sont organisées lors d’évènements comme la Nantes Digital Week pour débattre de ces nouvelles thématiques qui ont un impact grandissant sur notre mode de vie. Un autre exemple de l’importance de cette thématique est le travail de la philosophe juridique Anne Rouvroy, qui a grandement étudié le principe de gouvernementalité algorithmique, et la profonde transformation que la révolution technologique catalyse dans la société et la politique.


Le principe même de gouvernementalité algorithmique remet en cause le fonctionnement actuel de la société et particulièrement le développement accéléré de nouvelles technologies dans tous les secteurs d’activités. Par exemple, nous remarquons une croissance importante du Digital Labor sur les dernières années. Cette nouvelle forme de travail est charactérisé par l’intéraction permanente avec les technologies de l’information et de la communication. Dans son livre « En attendant les robots », le professeur de sociologie Antonio Casilli décrit trois types de digital labor :

  • Les plateformes de service « à la demande », telles que Uber ou Foodora. Dans ce cas, les entreprises mettent en relation des demandeurs et des fournisseurs potentiels d’un service, en temps réel, par géolocalisation. Les chauffeurs/livreurs et les utilisateurs du service créent des données qui seront exploitées par les entreprises : annotation de cartes, complétion de parcours GPS, gestion de réputation, etc.
  • Les plateformes de microtravail, telles qu’Amazon Mechanical Turk. Ces entreprises rémunèrent des microtravailleurs pour assister des intelligences artificielles dans leurs tâches, voire réalisent eux-mêmes ces tâches en lieu et place des IA.
  • Les plateformes « sociales » telles que Facebook ou YouTube. Ici, les entreprises capitalisent sur le travail fourni « bénévolement » par les utilisateurs : chaque like sur Facebook permet d’affiner un profil utilisateur, exploité commercialement à travers le ciblage publicitaire proposé par Facebook aux annonceurs.

Un des aspects positifs de cette nouvelle forme de travail est la création de nouveaux emplois (Youtubeur, livreur/entrepreneur Ubereats, etc.). Le Digital Labor apporte du dynamisme à l’économie et met à profit les nouvelles technologies pour proposer de nouveaux services plus performants. Toutefois, nous en venons rapidement à nous demander à quel point la gouvernance des machines est importante. Utilisons nous les machines comme des outils ou subissons nous plutôt leur fonctionnement ?

Prenons le cas de l’entreprise Israélienne Waze, qui fournit une application GPS nouvelle génération très utilisée. Cette application permet de rapidement trouver le chemin le plus court ou le plus rapide vers une destination donnée. A première vue cette application est un outil utilisé par l’humain pour accomplir une tâche précise. Cependant, nous pouvons noter que Waze utilise les données recueillies sur les appareils utilisateurs afin d’améliorer ses propositions de chemins. Son fonctionnement est maintenant très clairement détaillé sur le site de Google, qui a racheté l’entreprise pour 1,3 milliard de dollars.

L’incrompréhension des nouvelles technologies par ces utilisateurs est une des causes de la gouvernementalité non maitrisée. Waze, ou les algorithmes de manière générale, n’ont pas accès à la vérité absolue. Suivre Waze aveuglement peut être dangereux, les routes ne sont pas forcément adaptées et si notre demande n’est pas similaire à celles des utilisateurs nous ayant précédés, nous pouvons nous retrouver bloqués. Nous devenons insidueusement et inéluctablement dépendants de ce type d’application. C’est pourquoi il est de la responsabilité de chacun de comprendre les nouvelles technologies afin de maintenir un esprit critique quant à l’utilisation de ces dernières.