Net,Flix,Flux - gouvernance algorithmique et marge d’irrationalité
Cette conférence a été élaborée pour le projet Thereafter Hiatus sur l'invitation de Rita Hajj & Mathieu Arbez Hermoso. Elle a été donnée le 13 mars 2020 à one gee in fog.
Le documentaire «The Great Hack» produit par Netflix en 2019, réalisé par Jehane Noujaim et Karim Amer, relate l'histoire du scandale Facebook/Cambridge Analytica qui a éclaté en 2018. Vous vous rappelez peut-être, on apprenait alors que la firme anglaise Cambridge Analitica avait illégalement eu accès aux données privées de millions d'utilisateurices de Facebook. On apprenait, par la même occasion que ces informations avaient ensuite été utilisées pour influencer le vote de milliards de citoyen.e.s états-unien.e.s lors de l'élection de Donald Trump et anglais.es pendant la campagne du Brexit.
La protection des données personnelles, la valeur économique qu'elles représentent et le pouvoir qu'elles concèdent à celles et ceux qui les exploitent est un sujet essentiel. Leur protection devrait être un droit fondamental. Ceci dit, n'étant ni mathématicienne ni geek, je n'ai rien à dire sur le sujet qui ne serait mieux expliqué ailleurs. Si je m'intéresse à ce documentaire, c'est plutôt en tant que production culturelle de masse traitant d'un sujet d'actualité politique qui touche chaque habitant de notre planète connectée.
Précisons que dès sa sortie, le film a eu une énorme succès aussi bien auprès du public que des médias. Cet conférence relève le paradoxe de la production de ce documentaire par une compagnie telle que Netflix et s'intéresse à l'esthétique produites par les réalités algorithmiques.
Analyser des génériques de séries de divertissement pourrait paraitre futile, voir anecdotique. C'est pourtant hautement révélateur car la morale et les convictions économiques ou politiques n'existent pas uniquement dans le domaine éthéré des idées. L'esthétique et les images sont les vaisseaux qui permettent aux idéaux de prendre corps dans la réalité. Ainsi, c'est n'est pas uniquement du divertissement que produisent les méga-firmes telles que Netflix ou HBO mais une certaine manière de concevoir le monde. Nous nous intéresserons ce soir à l'émergence d'une nouvelle esthétique qui reflète une certaine logique algoritmique.
Que ce soit en anticipant des mouvements de foule ou en influençant le choix d'un itinéraire, les algorithmes ont définitivement effacé la frontière entre réalité numérique et analogique. De la même manière, les images ne se cantonnent plus aux écrans, elles ont envahit la matière de notre quotidien. Loin d'être séparés par un gouffre infranchissable, l'image et le monde ne sont souvent que deux versions l'une de l'autre.
Cela signifie que l'on ne peut pas comprendre la réalité sans comprendre le cinéma, la photographie, la modélisation 3D, ou toute autres formes d'images fixes et animées. La réalité dans laquelle nous vivons est postproduite et scénarisée.
Extrait du documentaire
L'extrait ci-dessus est tiré du documentaire The Great Hack. pourtant nous avons toustes déjà vu ces images dans un contexte différent. C'est le genre de scène typique que l'on retrouve dans tous les films grand public ayant pour objet une catastrophe à l'échelle planétaire: les films de zombies, d'invasion d'aliens ou de pandémie.
Ces fictions cinématographiques devaient à l'origine illustrer l'image que les réalisateurs se faisaient d'une réalité plausible. Ici, la relation entre fiction et réalité s'inverse quand les réalisateurs décident d'imiter des films de divertissement plutôt que de reproduire une situation réelle. Alors que le film documentaire s'était longtemps positionné à l'opposé des fictions holiwoodiennes, The Great Hack crée une boucle référentielle nouvelle qui a pour effet de produire une distance entre le sujet et la réalité dont il est sensé parler.
Antoinette Rouvroy, dans une étude sur les algorithmes prédictifs, relève le même décalage, la même distance, entre les données brutes dont se nourrissent les algorithmes et le monde qu'ils sont sensé «dévoiler». Selon elle, le monde pré-existant que les algorythmes ne feraient que révéler n'existe pas et n'a jamais existé. Il pourrait ne jamais exister si ce n'est que sa réalisation découle directement de sa prédiction par les algorithmes en question. Dans la logique des algorithmes, c'est la fiction qui produit la réalité et non l'inverse.
Dans le documentaire de Netflix, la dimension fictionnelle est extrêmement présente et à plusieurs niveaux. On la décèle en premier lieu dans le type d'images produites. Les codes visuels ont été empruntés à différents registres mais principalement à celui de la science fiction comme nous pouvons le voir ci-dessous.
À gauche nous avons des images du documentaire tandis que celles de droite sont tirées de films de science fiction. Ces deux exemples nous permettent d'observer des similitudes à différent niveaux.
Les deux premières images, avec l'exemple de Ghost in the Shell utilisent un genre de représentation holographique. Sur un fond noir, des projections immatérielles composent des formes géométriques. Chacune des images est faite de plusieurs couches qui se superposent, les projections sont lumineuses et de couleur vive.
En dessous, le documentaire est mis en relation avec le film Interstellar. Ces deux images m'intéressent car elles sont exemplaires de la logique occidentale cartésienne. Des lignes horizontales et verticales forment un quadrillage bien défini et régulier. Dans l'image de gauche, le spectateur est sensé voyager dans les données numériques, à droite le protagoniste du film voyage dans le temps. Dans les deux cas, nous nous trouvons dans une réalité parallèle au sein de laquelle les lois de la physique ne s'appliquent pas. Tout serait possible et pourtant même au sein de ces dimensions fictives les mouvements se dessinent de gauche à droite ou de haut en bas, la linéarité est respectée et le gout n'a rien à voir dans ces déplacements.
Ces emprunts à la science fiction deviennent encore plus flagrants lorsque l'on met en parallèle des extraits du documentaire et du film Transcendance de Wally Pfister. Notez d'ailleurs que la similitude ne s'arrête pas aux images mais que les bandes sons sont elles-aussi quasiment identiques.
Extrait du documentaire
Transcendance Wally Pfiser
La dimension fictionnelle du documentaire ne s'arrête pas au choix des images et du son. Elle infuse également la construction narrative qui ressemble a celle d'un film de James Bond. Costards couteux, hôtels de luxe et piscine turquoise, on vole de Londres à la Thailande en passant par le congrès européen à la Haye.
Comme dans un film, les personnages qui apparaisent dans le documentaires sont construits, et incarnent des rôles facilement identifiables: il y a les grands méchants, glamour et sournois, et l'héroïne dont les motivations ne sont pas toujours claires si ce n'est, bien sûr, le sort de la liberté et du processus démocratique.
Plus loin, le documentaire va même jusqu'à prendre des allures de film porno. Ironiquement, c'est au moment où l'on va présenter la protagoniste principale: on la rencontre dans une piscine à débordement, une serveuse apporte des cocktails dans des noix de coco… Les mouvements de camera eux aussi sont révélateurs. On commence cachés derrière un transat comme un voyeur avant de nous approcher de la fille immergée dans la piscine. La bande sonore elle-aussi participe fortement à créer l’ambiance porno-chic et qui, une fois révélée, parait complètement déplacée dans ce contexte.
Extrait du documentaire
A ces différentes références fictionnelles, les réalisateurs vont associer des codes de documentaire très classiques: quelqu'un écrit sur un tableau blanc tout en nous expliquant son propos; un homme à l'allure respectable est interviewé dans un fauteuil devant une bibliothèque. Alors que les éléments fictionnels ont pour principal objectif de capturer l'attention des spectateurices, de les divertir, ces éléments plus classiques servent à crédibiliser l’ensemble.
La multiplication des codes liés au domaine de la fiction font de ce documentaire un produit divertissant et entrainant. Mais par la même occasion, l'effacement de la frontière entre fiction et réalité diminue drastiquement la prise en compte sérieuse du propos.
Si l'on s'intéresse sérieusement à l'histoire du scandal des données de Cambridge Analytica, on remarque rapidement qu'un grand nombre d'informations essentielles et problématiques ont été éludées. Notamment le fait que Netflix était également concerné par le scandale du vol des données ou que la firme Cambridge Analytica n'a fait faillite que pour renaitre sous le nom d’Emerdata avec le même conseil d'administration et les mêmes employés.
On pourrait argumenter qu'aucun documentaire n'a jamais été exhaustif et que l'ensemble des données récoltées lors d'une enquête ne peuvent pas toujours être présentées dans un format court et pédagogique. Cependant ces éléments sont loin d'être des détails. Ce choix parait pourtant moins incongru si on l'associe au fait qu'à aucun moment le documentaire n'éveille un quelconque réflexe de questionnement, de réflexion indépendante. Ce qui se présente comme un cris d'alarme est en réalité aussi vite digéré qu'un épisode de Games of Thrones, et aussi vite oublié.
J'ai pris ce documentaire pour objet car il se prête particulièrement bien à un week-end sur la question de la prédictibilité. Mais il est important de noter que ce n'est pas un cas à part. Depuis quelques années, on a pu observer une augmentation radicale dans la production de documentaires et de séries à caractère documentaire ou biopique. Une grande majorité des ces films utilisent ces mêmes mécanismes. À cet égard, il est intéressant de noter que chez Netflix divertissement et documentaires sont produits au sein d'un même département nommé «documentaire et comédie».
Ces produits culturels propres, impeccables et digestes sont emblématiques de la logique des algorithmes. En nous épargnant la peine de la réflexion, de l'évaluation et du choix, ils nous façonnent une vie harmonieuse et belle ; un espace doux, sans irrégularité, fondé sur l'idéologie de la permanence du bonheur et de la satisfaction. Une réalité fluide, flottante et confortable ; comme si on retournait dans une sorte de nouveau liquide amniotique ; un état de perfection à la fois immuable et en constante adaptation. Ces dernières années, je me suis spécialement intéressée aux génériques produits pour les séries à grand succès. C'est un type d'image qui illustre parfaitement les réalités dont on parle.
Dans chacun de ces extraits, il ne fait ni jour, ni nuit.
On remarque immédiatement que l'espace que l’on nous présente n'est pas un lieu réel ni même possible. On est dans une sorte d’éther flottant qui pourrait être n'importe où et nulle par à la fois. Ainsi, chaque séquence donne l'impression d'un tout, un univers cohérent mais clos. La camera nous y donne accès, mais on sent qu'on ne pourrait ni y entrer ni en sortir.
En ces lieux, la temporalité que nous connaissons n'existe pas. Sa linéarité est brisée par des ralentis et des accélérations soudaines. Parfois, on ralenti à tel point que la camera peut faire le tour d'une particule de poussière qui tombe dans la lumière. Comme les algorithmes, nous devenons omniscients et omniprésents. Nous pouvons être partout à la fois et jouir de tous les points de vue simultanément.
La frontière de la matière elle aussi a disparu: on passe à l'intérieur des corps et des machines et les mécanismes qui font fonctionner les objets et le monde sont révélés. On démultiplie les roues crantées, on montre le papier du rouleau mécanique.
La frontière entre le vivant et l’inerte est elle aussi réduite à néant: le biologique et le mécanique, l'organique et le minéral. Les hommes sont des machines biologiques, on montre leurs composants séparément, des os, des tendons, des iris. Les machines de leur côté sont animées et autonomes. Du métal en fusion devient une sorte d'organisme vivant qui construit une couronne de son propre fait.
Délivré des contraintes du temps et de la matière, l'Être humain jouit d'une liberté absolue. Omnipotent, il est l'égal des dieux. Mais l'absence de limite veut aussi dire qu'il n'y a plus aucune excuse pour ne pas atteindre la perfection. C'est une valeur importante de la Silicone Valley : grâce à une construction et à une évolution constante, chaque individu doit en permanence tendre à une meilleure version de lui-même. Selon cette logique, il n'y pas de pauvres ou d'exploités, il n'y a que des gens qui n'ont pas assez essayé, qui n'ont pas su jouer le jeu.
D'ailleurs le mot exploité n'existe plus dans le discours publique. Les exploités de la lutte des classes sont devenus les défavorisés du 21 ème Siècle. Ce remplacement sémantique n'est pas anodin, en effet, si l'on parle de défavorisés n’y a plus d'exploiteurs, plus de coupables, juste un manque de chance. Le langage, subit le même sort que les images. Il est retravaillé pour mettre en évidence ce que l'on veut montrer et faire disparaitre les concepts qui n'ont pas leur place au paradis.
Retournons au documentaire avec une nouvelle séquence qui se passe dans la classe d’un des professeurs interrogé.
Extrait du documentaire
Cette scène reflète exactement la société que les algorithmes construisent pour nous. Dans cette classe, ils sont tous beaux, ils sont tous jeunes, il y a des noirs, des filles, les gays et queer sont les bienvenus, ils rient tous ensemble.
La logique des algorithmes c’est la philosophie de la Silicon Valley: un mélange de bohème hippie et de foi absolue dans le libre marché. Cette société est gentille et ouverte à toustes pour autant qu'aucune aspérité ne la remette en question ni ne la freine. Car elle n'acceptera aucun compromis avec la fluidité, la flexibilité, l'immédiateté, le dynamisme et la transparence.
Quand on se promène à Palo Alto en Californie – l’une des ville phare des big tech – on peut réellement sentir ces valeurs. Toute la ville est déclarée non fumeur. Pas uniquement les bar et espaces publics intérieurs mais l'ensemble des rues. Il n'y a pas de mc-do, pas de junk food, pas d’obèses ni de clochards qui sont relégués à la périphérie. La réalité des algorithmes accepte les tatooages, les crêtes et les dreads pour autant qu'elles soient coiffées avec Fructis.
Cette société ne parle plus de personnalités mais de profils, ce qui en est l'exacte opposé. Alors que la publicité et le discours des compagnies nous promettent un contenu sur mesure, les algorithmes n'ont jamais eu pour objectif de proposer des solutions adaptées à la complexité de la réalité. Au contraire, ils sont conçus pour réduire la richesse de la diversité individuelle à une série de personnalités prédéfinies.
Antonio Gramsi, dans sa critique du capitale, a défini que la domination peut être obtenue en contrôlant les idées et les hypothèses dont dispose le public. Il appelle ce phénomène l'hégémonie culturelle. Bien que le concept soit ancien, il n'a jamais été aussi présent, et appliqué de manière aussi efficace, que dans la gouvernance algorithmique.
La réalité est une création entièrement humaine. Elle est composée de mots, de tournures de phrases, elle a un code couleur, un type de cadrage, un type de focale. Le capitalisme aujourd'hui produit des voitures, du café et des bâtiments, mais il produit aussi des signes. Leur circulation et leur prolifération participe à la reproduction du système qui les produit. Comme tout ce à quoi nous sommes trop habitués, nous ne remettons pas en question ce langage; son omniprésence fait son invisibilité. Mais l'esthétique est un facteur d'hétéronomie, elle agit sur notre perception de la réalité. Elle influence directement notre sensibilité et modifie la façon dont nous appréhendons les choses.
J'ai lu un interview des réalisateurs du documentaire. Ils disent que nous sommes arrivés à un point où «des gens qui sont des créatures morales sont influencés par des algorithmes immoraux»
Une telle phrase, dans la bouche de ma grand-mère ne me surprendrait pas. Mais je la trouve choquante quand elle vient des réalisateurs d'un documentaire comme celui-ci.
Les algorithmes ne sont pas les réplicateurs de Stargate. Ils ne créent pas nos profils juste pour prouver leur intelligence. Ils ne sont pas apparus un jour, comme ça, pour fouiller dans nos ordinateurs avec leurs petites pattes et leurs petites mains. Ils ont été développée et sont utilisés pour les exactes résultats qu'ils produisent. Cette tehnologie a été créee et est exploitée par des gens tout à fait conscients de ce qu'ils font. Ces gens-là sont protégés par des lois, qui elles-aussisont crées par des gens; des gens pour qui on a voté; un vote qui est aujourd'hui influencé par les algorithmes en question... c'est là que la boucle se boucle.
Nous arrivons au paradoxe que j'évoquais en introduction: Netlix produisant ce documentaire.
On sait que Netflix doit son succès au même type d'algorithmes et de traitement des données que ce qui est mis en cause dans le documentaire. Prenons deux exemples. En 2018 - lors d'un procès qui opposait Facebook à la compagnie Six4Three - il a été révélé que Netflix avait eu accès et avait utilisé les conversations privées des utilisateurs de Facebook ainsi que toutes leurs données personnelles.
Si l'on épluche le document pdf de leur politique de confidentialité, on s'aperçoit également que les closes de confidentialités sont similaires à celles de Facebook, et ne permettent en aucun cas d'imaginer qu'ils respecteraient plus la vie privés de leurs utilisateurs que ne la compagnie de Mark Zukerberg. Dans ce document de 22 pages, on peut notamment lire :
«Pour l'instant, nous ne gérons pas les signaux de type "Do not track" des navigateurs Web.» (p.21)
ou encore:
«nous sommes susceptibles de partager votre nom et d'autres informations avec des tiers. Veuillez noter que ces tiers sont responsables de leurs propres pratiques de confidentialité.» (p.9)
Le documentaire The Great Hack n'est pas la seule ironie du catalogue de Netflix. Cette multinationale qui brasse 15 milliards de dollars par ans a tout de même produit la série La Casa de Papel. Je pense malgré tout qu'il est intéressant de se poser la question du "pourquoi". Pourquoi Netflix produis cela et pourquoi de cette manière? Il est évident que Netflix ne produirait jamais quelque chose qui pourrait mettre son empire en danger.
Se pourrait-il alors qu’ils soient trop optimistes ou qu'ils n'aient pas pensé au parallèle entre le documentaire et leur situation? C’est assez peu probable puisque justement ils ont tous nos profiles psychologiques.
C'est plutôt que le documentaire ne remet aucunement en question le cadre au sein duquel il est produit. L'affaire est présentée comme un cas unique et clos. Quelque chose avec un début et une fin, qui heureusement a été découvert et qui aujourd'hui est derrière nous. La question n'est donc pas de savoir si ce documentaire aurait pu être mieux fait, mais s'il n'aurait pas pu être fait autrement.
Vous avez surement été surpis par la soudaine présence de brocolis dans ce texte. Ce n'est qu'une illustration du fait qu’il suffit de pas grand chose, d’un tout petit décalage, pour que les gens se posent des questions sur ce qu’ils sont entrain de voir.
Les artistes possèdent des outils et un langage particulier qui leur permettent de décoder le monde et d'y apporter des créations singulières. Toutes les formes d'engagement et de militantisme sont nécessaires et s'inter-valorisent dans la multiplication, mais le monde n'a jamais autant eu besoin d'artistes qu'aujourd'hui. Dans les années 70, les artistes conceptuels tentaient de s'opposer à une forme primitive du capitalisme culturel en refusant la forme. Aujourd’hui au contraire, nous avons besoin d'artistes dont la question première est justement la forme, l'image, l'objet. C’est là que se trouve le pouvoir de transformation de l’art, ce sont les seuls a pouvoir produire les images qui manquent à notre compréhension du réel.
Lorsque le normal, le « comme il faut » et le contrôlé est joli, alors ce qu'il y a de spécial, de rare et d'exceptionnel doit être laid. Les artistes doivent créer un langage qui ne soit poli ni par la globalisation insipide des algorithmes, ni par le repli sur soi nationalistes.
Un langage qui ne soit ni un produit de luxe, ni de la décoration bas de gamme, mais plutôt un accident révélateur, un excès, un vol, un gaspillage, une erreur ou une contradiction.
Il s'agit avant tout de créer un espace de récalcitrance dans lequel on sera capables de s'ancrer, de pratiquer la critique et d'hybrider réellement nos cultures.
Extrait du documentaire
Le documentaire de Netflix commence sur ces images du Burning man, festival de toutes les libertés. Je vais finir sur la même métaphore. Burning man est l'équivalent contemporain du carnaval médiéval. Il permet, une fois par année, de relâcher la pression afin d'empêcher que les carcans sociaux ne fassent exploser la marmite de nos individualités formatées.
De la même manière, ce type de documentaire est la dose de critique minimale qui permet au regardeur de ne pas remettre en question toute la machine – et cela tout en ayant un coupable bien défini à qui faire porter les échecs de la démocratie participative. C'est le film d'horreur qu'on regarde pour se donner un frisson tout en étant sûr d’être à l’abris dans une réalité séparée et confortable.