Juriste et philosophe du droit aux Facultés de Namur et chercheuse au FNRS, Antoinette Rouvroy étudie la question de la norme et du pouvoir à l’heure de la révolution numérique.
Antoinette Rouvroy, la crise du covid et ces semaines de confinement qui se succèdent et qui sont imposées à plus de la moitié de l’humanité voient à la fois l’arrêt partiel ou total de pans entiers de l’économie, et en même temps un triomphe des géants du numérique qui semblent asseoir définitivement leur hégémonie.
De fait les grosses entreprises du numérique sont globalement bénéficiaires du basculement en ligne d’une très grande partie des interactions sociales, éducatives, commerciales, professionnelles,…des êtres humains “normalement connectés” (ce qui laisse quand-même dans l’angle mort des pans entiers de la population mondiale, moins bien ou non connectée à l’internet), au détriment très souvent d’acteurs de l’économie non-numérique grandement fragilisés par les fermetures obligatoires des commerces et des services. Le capitalisme numérique et la gouvernementalité algorithmique qui l’accompagne ont horreur du vide. Ils colonisent l’espace laissé entre les corps par la distanciation physique (Skype, WhatsApp, Zoom, Teams,…deviennent les nouveaux “lieux” de socialisation), se substituent au “commerce” dans l’espace social territorialisé déserté (Amazon se charge de tout, même de votre épicerie), ils profitent aussi de l’assèchement de l’espace public délibératif ( grâce à des quantités massives de données en provenance de Facebook, le profilage et le ciblage, à des fins de propagande électorale, des portions d’électorat les plus influençables et indécis dans le contexte de la campagne électorale de donald Trump est exemplaire à cet égard). Le capitalisme numérique colonise tous les lieux que nous dés-habitons, et prolifère, se nourrissant des données numériques produites chaque seconde en quantités massives, qui renseignent sur nos comportements, nos propensions, nos habitudes,…et permettent aux géants du numérique d’entraîner leurs “algorithmes intelligents” à mieux “connaître” nos formes de vie. Les plateformes numériques capables d’attirer le plus d’utilisateurs gagnent aussi un avantage compétitif dans la course mondiale au développement des intelligences artificielles.
Mais aussi, alors que, face à la crise sanitaire présente, et surtout, face à la perspective déjà sensible d’une crise climatique et écologique planétaire autrement plus inquiétante, les réponses que peuvent donner les gouvernants à la demande de sécurité des gouvernés s’avère défaillante (des années de politiques austéritaires et de désinvestissements dans les services publics essentiels leur ont fait perdre l’habitude et les moyens de répondre à cette demande de sécurité), le solutionnisme technologique a globalement le vent en poupe: une intelligence artificielle, capable de métaboliser en temps réel les données numériques émises dans le monde entier ne serait-elle pas plus à même que nos dirigeants politiques de faire face aux grands défis auxquels nous sommes urgemment confrontés, de détecter les signes avant-coureurs de phénomènes autrement imprévisibles ? De prendre des décisions plus impartiales, objectives, opérationnelles, efficaces, rapides ? Gouverner, alors, s’amenuiserait jusqu’à ne plus consister qu’à garantir au capitalisme numérique les autoroutes de l’acceptabilité sociale. Le droit n’aurait plus d’autre “fonction” que d’être une infrastructure favorable à l’innovation et à son adoption par les populations en promettant notamment aux individus le respect de leurs droits et libertés fondamentaux, pour autant qu’ils ne fassent pas obstacle à la mise en place d’une gouvernementalité algorithmique mondiale pilotée par quelques plateformes auxquelles tous prèteraient, volontairement ou non, consciemment ou non, allégeance. La gouvernementalité algorithmique se présenterait alors effectivement comme hégémonique, comme pure positivité sans négativité, comme totalité sans dehors.
Cependant, même si la distanciation physique imposée actuellement en raison de la crise sanitaire a pu produire, sur une bonne partie de ceux d’entre nous qui étaient les plus rétifs aux écrans, des effets de conversion, il n’est pas évident que le basculement en ligne de nombreuses activités qui s’effectuaient hors ligne avant le confinement ait vocation à se poursuivre une fois la crise sanitaire passée…il n’est pas non plus absolument évident que l’idée d’être gouvernés par des machines suscite chez les citoyens un engouement massif.
Certains ingénieurs et data scientists le reconnaissent eux-mêmes: le plus gros “bug”
qui menace l’intelligence artificielle, c’est la persistance du monde physique et de ses habitants.
Certains ingénieurs et data scientists le reconnaissent eux-mêmes: le plus gros “bug” qui menace l’intelligence artificielle, c’est la persistance du monde physique et de ses habitants. Nous sommes “désespérément” organiques, désespérément “vivants” – donc affectés d’événements incalculables et non numérisables. De plus, comme le disait Jaron Lanier à propos de la réalité virtuelle (dont il se dit l’inventeur…sans doute parce qu’il n’avait pas lu Antonin Artaud, qui en avait donné des préfigurations absolument fulgurantes!): une de ses “vertus” est précisément de faire sentir à quel point la réalité physique est infiniment plus savoureuse, précieuse, jouissive, complexe, intéressante. S’il n’y a pas d’équivalence ”affective” entre ces dispositifs numériques et les agencements collectifs territorialisés que nous pouvons habiter en temps ordinaires, c’est bien parce que les intrications sémiotiques à travers lesquelles nous, êtres humains, opérons la “sémiose” (donnons sens commun), impliquent bien autre chose que des données numériques décontextualisées, “dé-codées” diraient Gilles Deleuze et Félix Guattari. Ces intrications gestuelles, posturales, mimiques, prosodiques, linguistiques,… à travers lesquels nous nous reconnaissons, ne peuvent prendre consistance que dans des espaces territorialisés dont elles enrichissent la référentialité commune. Même si Elon Musk prétendait récemment que, grâce à un super implant neuronal, le langage humain deviendrait bientôt redondant, nos manières de faire sens impliquent bien plus que des signaux numériques a-signifiants agrégés à l’échelle industrielle dans un espace purement métrique, neutralisé, de coordonnées dont le point zéro ne serait plus l’être humain.
Quand bien même la Commission Européenne, voudrait faire passer pour une évidence que “la croissance économique et le bien-être sociétal actuels et futurs de l’Europe reposent de plus en plus sur la valeur créée par les données” : la valeur créée par les données, plutôt que par le travail humain…on pressent là le déni ou à tout le moins l’oubli du “digital labour” de même que des “travailleurs des plateformes”. Le fantasme d’un monde sans travailleurs propre au capitalisme numérique se nourrit de la capacité des algorithmes à transformer le virtuel en plus-value sans plus en passer par aucune des dimensions de l’intelligence humaine: la sensibilité, l’entendement et l’imagination deviennent absolument dispensables.
Les algorithmes du capitalisme numérique, essentiellement dédiés à tout optimiser à des fins de maximisation de la rentabilité financière à court-terme,
n’avaient strictement pas vu venir le coronavirus, ayant renoncé à rien connaître du monde qui ne soit optimisable.
Cependant, on mesure aujourd’hui douloureusement à quel point les prétentions, fondées sur les “big data”, les algorithmes, l’intelligence artificielle, à tout prévoir, à tout anticiper, à tout automatiser, à tout optimiser au plus juste, en temps réel, en régime de “flux tendu”, prétendant nous immuniser contre l’excès du possible sur le probable, nous ont déshabitués à la prendre en compte la part irréductible d’incertitude radicale qui fait que le monde, tel qu’il surgit, échappe toujours un peu (ou beaucoup) aux prédictions, et à nous organiser collectivement pour y faire face. Les algorithmes du capitalisme numérique, essentiellement dédiés à tout optimiser à des fins de maximisation de la rentabilité financière à court-terme, n’avaient strictement pas vu venir le coronavirus, ayant renoncé à rien connaître du monde qui ne soit optimisable. Ce déni d’une matérialité organique en excès de la production de la vie comme flux numériques, la prétention d’immuniser les flux capitalistiques contre l’altération qui est au principe même du vivant, expose inévitablement à des “bugs” cataclysmiques: quelles que soient ses prétentions hégémoniques, le capitalisme numérique se heurte à un dehors et ce dehors est le monde – organique, physique, passible, fragile – que nous habitons.
Les réseaux sociaux et les Gafam semblent pourtant répondre à une série de problèmes posés par le confinement : contacts sociaux bien sur, vente en ligne, information mais on sent aussi des innovations soudaines pour tenter de répondre à cette épidémie et au confinement ?
Les développements de l’IA faisaient les gros titres de l’actualité avant que le coronavirus leur vole la vedette. Le délire immunitaire propre à l’idéologie technique du tournant algorithmique (cette idée que grâce aux données et aux algorithmes, on peut tout anticiper, et purger le monde de tout événement) apparaît enfin pour ce qu’il est – un délire – dans le miroir grossissant que lui tend le virus, ce monstre minuscule, invisible, qui dévore le monde dans l’angle mort du numérique. Evidemment – c’est là un effet des capacités hautement recombinantes du capitalisme – à présent Google et Apple, et une interminable ribambelle de geeks tentent de rattraper le coup et s’activent sur des projets de “techs for good”: des applications de Covid-tracking conformes aux règles européennes en matière de protection des données personnelles. C’est certainement cathartique, cette impression de faire quelque chose plutôt que rien, et certaines de ces applications peuvent effectivement, marginalement, apporter une aide dans la lutte contre la pandémie, mais LA solution n’est pas numérique.
Ma réticence envers les applications actuellement proposées pour tracer les contacts interpersonnels tient plutôt à un problème d’efficacité. La question de l’efficacité de dispositifs numériques de “tracking” du virus se pose pratiquement (pour que ce soit efficace il faut au minimum qu’une proportion importante de la population – en ce compris les très jeunes et les très vieux – aient un smartphone et aient téléchargé l’application ad hoc) et juridiquement (un système inefficace ne remplit pas les conditions de proportionnalité et de légitimité imposées par les régimes de protection des données ). Plus largement, le tracking seul n’arrêtera pas le virus: il peut rendre mieux perceptible sa propagation – de façon très approximative cependant, puisqu’on ne peut inférer de la seule proximité mesurable entre deux émetteurs bluetooth de téléphones portables la probabilité de propagation du virus entre leurs propriétaires respectifs (d’où l’importance cruciale de garder à l’esprit que les signaux numériques ne sont pas le monde dont ils émanent, mais n’en sont qu’une abstraction très approximative, biaisée de multiples façons), il peut “responsabiliser” les individus (agissant alors comme instrument de normalisation des comportements), permettre de détecter et de sanctionner ceux qui contreviennent aux injonctions de confinement et de distanciation sociale,… mais tant qu’on n’a pas de tests, pas de masques, pas de prophylaxie, pas de médicament, pas assez de personnel (en ce compris pour interpréter les signaux numériques) ni de matériel médical…ça reste globalement inefficace.La plupart des systèmes proposés sont en outre extrêmement vulnérables aux attaques, probablement très peu fiables (d’autant moins fiables qu’ils reposent sur l’enrôlement volontaire des personnes et qu’ils promettent l’anonymat). La carte n’est pas le territoire. Surtout, il nous faut des tests, des masques, des vaccins.
S’ils s’avéraient utiles car efficaces (dans un contexte différent de celui que nous connaissons aujourd’hui en Belgique, donc), ces dispositifs de “tracking” numérique seraient bienvenus. Le principe – qui n’a rien de neuf – d’un traçage des contacts interpersonnels à des fins de lutte contre l’épidémie est évidemment irréprochable et le seul traçage “manuel” tel qu’il est envisagé aujourd’hui en Belgique, risque d’être très peu efficace. Demander aux individus de noter les noms et numéros de téléphone de toutes les personnes qu’ils rencontrent dans l’espace public est une “solution” très peu réaliste. Dans les transports en commun, nous côtoyons quantité de personnes et je n’imagine pas demander leurs noms et numéro de téléphone à toutes les personnes masquées voyagent à moins d’un mètre cinquante de moi. Le stockage des signaux bluetooth des téléphones peut s’avérer beaucoup plus praticable et moins attentatoire à la protection de la vie privée et des données personnelles que le tracking “manuel”, surtout si ces données restent par défaut anonymes et stockées localement sur les téléphones des individus, et ne sont “dés-anonymisées” qu’au cas où une personne serait diagnostiquée positive au Covid19, afin de permettre à ceux qui auraient été en contact suffisamment prolongé avec elle de prendre les mesures qui s’imposent. L’obsession fétichiste pour la donnée personnelle dans nos démocraties libérales devrait être dépassée. Les enjeux, en l’occurrence, ne sont pas individuels, mais exclusivement collectifs et politiques. Il y a deux histoires distinctes à l’exigence du consentement au traitement des données personnelles: autodétermination individuelle (dérivée du droit médical et de la bioéthique post-seconde guerre mondiale) et autodétermination collective des peuples (Révolution française; Déclaration d’indépendance USA; droits des peuples autochtones). Une piste pour tenir compte, dans les instruments de protection des données, de la nature relationnelle, et donc aussi collective, de ce qui, à travers les données, mérite d’être protégé, particulièrement en ces temps de pandémie, serait de s’inspirer davantage de l’origine politique, collective. Car ce qui est en jeu, dans les traitements automatisés de données, c’est moins l’intégrité physique individuelle (comme dans la bioéthique) que la vitalité “démocratique”, la possibilité de décider collectivement de ce qui nous concerne non pas individuellement, mais en tant que peuple à venir.
Ma réticence à l’égard des applications numériques de traçage des relations interpersonnelles dans ce contexte de pandémie ne se fonde donc pas du tout sur le fantasme de la mise en place d’un régime totalitaire obsédé par la surveillance des citoyens. Cette pandémie n’est pas, contrairement à ce qu’a prétendu Georgio Agamben, une “invention” devant permettre à l’Etat de justifier ou de faire accepter un état d’exception suspensif des libertés publiques et des droits fondamentaux. Elle est un fléau qui affecte la population mondiale – en ce sens elle est aussi un produit de la mondialisation: si une partie (aisée) de la population mondiale n’était pas constamment en mouvement, le virus n’aurait pas pu se propager à l’échelle planétaire – et qui requiert, pour en venir à bout, des actions coordonnées au niveau mondial. Il est à mon sens évident que “le numérique” peut fournir des outils de visualisation, de détection des foyers potentiels d’épidémies, de modélisation de la viralité à l’échelle mondiale qui pourraient être absolument précieux à l’avenir ( à condition de ne pas prendre la carte pour le territoire ). La juxtaposition de systèmes développés localement n’est probablement pas ce qu’il y a de plus efficace, sous l’angle de la lutte contre la pandémie. Le partage des données sanitaires (au sens large) à l’échelle mondiale, suivant des modalités compatibles avec le droit des différents états, reste à organiser. C’est un défi auquel les gouvernements devraient s’atteler sans tarder (la pandémie que nous traversons ne sera pas la dernière), à moins qu’ils ne comptent sur le secteur privé (les géants de l’internet) pour le relever à leur place en substituant à la règlementation des formes d’autorégulation ne ménageant aucun espace à la délibération politique.
Vous avez récemment co-signé une carte blanche dans le Nouvel Observateur à propos des travailleurs des plates formes numériques, vous y dénoncez les conditions déplorables de ces travailleurs, qui se constatent de façon encore plus flagrante dans les conditions du confinement, comme si les plates formes ne répondaient plus à aucune forme de règle ou de loi. On le voit aussi, par exemple, avec les travailleurs d’Amazon… Pourtant on a l’impression paradoxale que si cette crise révèle une fois de plus les disparités terribles du système, elle renforce, au moins ponctuellement, la puissance des acteurs du numérique qui en profitent le plus (Amazon recrute à tour de bras, et la crise économique qui nous pend au nez devrait voir se multiplier les candidatures…)
Comme la plupart d’entre nous sont “immobilisés”, “en retrait”, il nous est à présent loisible de mieux percevoir ceux qui sont habituellement “invisibilisés” : tous ceux dont le travail est essentiel pour satisfaire nos besoins “logistiques”. Invisibles dans les flux de circulation en temps normal, les coursiers circulent d’autant plus que les confinés sont immobiles. La visibilité nouvelle de ces travailleurs essentiels mais précaires, si elle peut leur valoir quelques applaudissements et la commisération de leurs concitoyens – n’est pas suffisante à leur assurer une meilleure position dans le rapport de force (ou de domination) dans lequel ils se trouvent relativement aux plateformes qui les emploient. Il y a des combats juridiques à mener pour éviter que la “platformisation” de l’économie détricote les protections sociales et le droit du travail. Il conviendrait de raviver, en leur donnant une effectivité juridique, les principes contenus dans la Déclaration de Philadelphie (10 mai 1944) concernant les buts et les objectifs de l’Organisation internationale du Travail (OIT). Imposer un cadre juridique aux plateformes du numérique n’est pas chose aisée, et il faudrait là aussi une action concertée – beaucoup plus efficace que les actions isolées des états.
Alors qu’une conception en vogue considère le droit comme une “infrastructure” dont la finalité est de “permettre l’innovation” (version contemporaine de la doctrine “law and economics”), lorsque l’”innovation” consiste essentiellement à accroître la puissance extractiviste et prédatrice de quelques gros acteurs et à fragiliser ou à disloquer tous les agencements collectifs susceptibles de leur tenir tête, il me semble urgent de sortir de cette soumission du droit à la logique absolue de l’”innovation” et de retrouver, pour le droit, une finalité tout autre: la poursuite de la justice comme idéal de perfectibilité sociale. L’enjeu est évidemment plus large encore que ce que je viens d’essayer d’évoquer: il n’y aura pas de justice climatique, pas de justice écologique, sans articulation étroite des trois écologies décrites par Félix guattari: une écologie sociale, une écologie psychique, et une écologie environnementale.
Dans le domaine du numérique, à quoi « le monde d’après » devra être particulièrement attentif ?
La “transition numérique” ne peut plus aujourd’hui s’énoncer comme une “finalité” autonome, à part entière, comme une logique absolue. Les désirs que nous pouvons ressentir pour la 5G, la “smart city”, la voiture autonome, la domotique…qui sont surtout des manières d’automatiser et d’accélérer les effets de modes de vie et de consommation écologiquement, climatiquement et socialement insoutenables, bref, d’automatiser notre bêtise.
Un trait de génie du capitalisme numérique est de faire passer la prolifération des données numériques, l’accélération exponentielle de leur circulation,…comme un “bien”, une “ressource”, une “valeur” alors que tout cela pourrait tout aussi bien être considéré relever de la catégorie des déchets toxiques. Toxiques pour le climat, pour l’environnement, pour nos agencements sociaux, pour nos psychismes individuels.
Un trait de génie du capitalisme numérique est de faire passer la prolifération des données numériques, l’accélération exponentielle de leur circulation,…comme un “bien”, une “ressource”, une “valeur” alors que tout cela pourrait tout aussi bien être considéré relever de la catégorie des déchets toxiques. Toxiques pour le climat, pour l’environnement, pour nos agencements sociaux, pour nos psychismes individuels. Je ne suis pas technophobe, loin de là: je pense que les perspectives, par exemple, offertes par le “machine learning” nous donnant accès à une perspective authentiquement “alien” sur le monde, émancipée du jougs de nos représentations humaines, sont fascinantes, et peuvent contribuer à nous rendre plus “intelligents”. Mais je pense aussi que nous avons à imaginer les modalités d’une “agencivité” composite soutenable humains-machines-environnement vivant. Nous n’avons encore rien vu. Tout est à penser. Or nous nous servons de ces machines, aujourd’hui pour dépenser l’avenir: à la fois pour nous dispenser de le penser, et pour en épuiser par avance toutes les ressources. Il ne tient qu’à nous de faire l’inverse: d’utiliser ces machines pour dé-clore l’avenir.
Dernière question : Voyez-vous des signes positifs, encourageants, des « bonnes nouvelles » aussi dans cette crise et ce confinement ?
Absolument. Alors que Mark Fisher (et d’autres) pouvaient écrire, constatant l’hégémonie après la chute de l’alternative communiste qu’ “Il est devenu plus facile d’imaginer la fin du monde que d’imaginer la fin du capitalisme”, on voit aujourd’hui que l’inimaginable peut changer de camp. Aujourd’hui, j’ai l’espoir que la certitude se répande, de façon virale, suivant laquelle il n’y a pas d’alternative à une sortie du capitalisme, à la recomposition d’agencements collectifs consistants, à la prise en compte et au soin de tout ce qui échappe au calcul.
Propos recueillis par Baptiste Erkes
