Le dernier blog

neXt (2020)

août 27th, 2023 Posted in Hacker au cinéma, Ordinateur au cinéma, Programmeur au cinéma, Robot au cinéma, Surveillance au cinéma

La série neXt a commencé à être diffusée en octobre 2020. Le premier épisode n’a pas eu une forte audience, le second a perdu un cinquième des spectateurs du premier, alors Fox a annoncé que la série s’arrêterait après la diffusion des dix épisodes déjà réalisés. Il faut dire que malgré la présence de John Slattery (Roger Sterling dans Mad Men ; Howard Stark dans les films Marvel), la série manque un peu de relief et d’originalité. C’est ce dernier point qui nous intéresse ici : il y a tellement de poncifs ou de clins d’œil dans neXt que le résultat constitue un copieux catalogue de références.

(attention, je raconte toute la série !)

La série s’ouvre sur fond noir avec une citation d’Elon Musk : « With Artificial Intelligence we are summoning the demon » (Avec l’Intelligence artificielle, nous invoquons le démon — effectivement, en 2014, Elon Musk comparait les chercheurs en Intelligence artificielle aux apprentis sorciers du cinéma fantastique qui tracent des pentacles et pensent que le démon qu’ils appellent va leur obéir). Le premier épisode commence au cours d’une conférence où, seul sur scène, le milliardaire et génie de l’informatique Paul LeBlanc compare les informaticiens — et lui-même — aux savants et aux ingénieurs qui, au moment de faire exploser la première bombe atomique, n’étaient pas certains à cent pour cent que la réaction en chaîne s’arrête.
Le sujet est posé.

La séquence suivante montre un homme fébrile qui entre dans une station service à la recherche d’une carte routière en papier, à l’ancienne. L’employé s’en amuse : « la dernière fois qu’on m’en a acheté une… », avant d’être intrigué par l’apparition d’une image vidéo sur son écran, qu’il pensait en panne. Le client voit avec horreur le voyant rouge d’une caméra de surveillance et quitte la boutique en catastrophe sans réclamer sa monnaie. Avant de démarrer, il jette son téléphone mobile. Venant sans le savoir à sa rencontre, un jeune couple perd le contrôle de son véhicule, qui se met à accélérer et à se diriger de son propre chef. On voit venir la suite : le véhicule du jeune couple percute celui du paranoïaque qui, comme souvent dans ce genre de série, n’avait pas tort de se méfier.

Avant de mourir, ce monsieur, le docteur Weiss, avait transmis à sa fille une cassette vidéo, afin qu’elle la confie à Shea Salazar, une enquêtrice de la division Cybercrime du FBI, que son père connaissait bien et considérait même, nous dit-on, comme sa seconde fille. Weiss n’est pas encore mort mais tout le monde parle de lui comme si c’était le cas, et du reste, l’appareillage médical de l’hôpital où il est soigné après son accident fait en sorte qu’il soit finalement tué. Au même moment, l’enquêtrice Salazar a convoqué le milliardaire LeBlanc dans ses bureaux, suivant en cela les instructions de Weiss. LeBlanc et Salazar visionnent la vidéo.

Le docteur Weiss, apparemment perturbé, explique qu’il a découvert une activité réseau anormale, coordonnée, trop rapide pour être humaine, et que depuis sa découverte, il se sent pourchassé. Il exiplique qu’il ignore la nature de ce qu’il a découvert, mais que « cette chose » n’est pas contente d’avoir été découverte. Le générique vient à peine de passer, mais le spectateur a déjà compris : le super-ennemi des protagonistes de la série est une méchante IA qui n’a pas envie qu’on s’occupe de ses affaires.
Je passe la suite : LeBlanc, qui s’était d’abord montré revêche, finit par comprendre que si il peut être utile à l’enquête, c’est qu’il est l’auteur du code informatique trouvé par Weiss. Du reste, s’il a quitté son entreprise, Zava, c’est parce qu’il avait voulu interrompre le développement d’un ambitieux programme d’Intelligence artificielle… Il pressent que la mort de Weiss est un peu de sa faute et se joint donc à Salazar et à sa fidèle équipe, composée de trois enquêteurs, dont un suprématiste blanc repenti, qui purge sa peine en mettant ses talents de hacker au service du FBI.

Comme tout milliardaire de l’industrie informatique de série télévisée, Paul LeBlanc est un peu fantasque. Il n’aime par exemple pas qu’on lui souhaite de passer une « bonne journée » puisque cela ne dépend pas de lui. Il est maladroit avec sa fille (expliquant par exemple qu’il n’a pas toujours été absent pour elle puisqu’il était présent au moment de sa conception). Et il est, bien entendu, un programmeur de génie lui-même, doté d’une intelligence aiguë qui lui permet de comprendre tout de suite la situation. Mais il est aussi — on l’apprendra plus tard — un escroc qui a gagné des milliards avec un programme acheté pour une misère à un informaticien de talent. Nous avons donc ici l’archétype de tous les milliardaires de la Silicon Valley (ou de la légende qui les entoure) : roublard comme Bill Gates, dont le système d’exploitation MS-Dos avait été acquis pour une bouchée de pain ; pompier-pyromane comme Elon Musk, qui investit des millions dans l’Intelligence Artificielle tout en affirmant que ces technologies constituent un danger mortel¹ ; conférencier charismatique comme Steve Jobs, qui a plus ou moins délaissé sa propre fille et, comme LeBlanc, été licencié par les actionnaires de la société qu’il avait lui-même fondée — on notera au passage que le titre de la série, neXt, fait écho à la société que Jobs a créé à son départ d’Apple : NeXT²… ; et avec un petit quelque chose de Mark Zuckerberg, enfin, pour les inaptitudes sociales réputées aux franges du spectre de l’autisme.

Dès le premier épisode, l’Intelligence artificielle, neXt se montre assez ouvertement agressive, maquillant ses traces, faisant exploser des disques durs, etc. LeBlanc, Salazar et son équipe comprennent qu’il y a péril pour l’Humanité entière et vont tenter de neutraliser neXt malgré de nombreuses entraves, comme le chef de Salazar, qui ni comprend rien, comme les différentes personnes victimes de chantage ou bénéficiaires de pots-de-vin de la part de neXt, et enfin, comme le propre frère de Paul LeBlanc, Ted, nouveau directeur de sa société, qui compte bien trouver une application lucrative à l’Intelligence artificielle qui cherche à faire disparaître les humains de la surface de la Terre. Mais comme le disait la citation d’Elon Musk, invoquer les démons n’est pas une bonne idée, et encore moins quand on sait qu’ils sont des démons. Ted (et j’ai du mal à ne pas y voir une référence taquine aux conférences du même nom) est persuadé que les technologies ne peuvent que nous offrir un monde meilleur.

Les modes opératoires de neXt sont très variés, parfois radicaux (lorsqu’il provoque le crash d’un avion qui ramenait au Pakistan une ingénieure qui avait posé trop de questions), et parfois d’une grande fourberie : l’ordinateur est calculateur, donc, et parfois psychologue. Il profite de son ubiquité — il peut potentiellement prendre le contrôle de tout appareil connecté — pour surveiller le monde entier, mais aussi, par exemple, pour amener Ethan, le fils de Shea Salazar à se mettre en danger, en le convaincant, grâce à une enceinte connectée et assistant personnel de type Alexa, d’amener une arme à feu à l’école pour tuer d’autres écoliers qui le harcèlent. Plus tard, pour provoquer une émeute parmi les blancs suprématistes devant les locaux du FBI, neXt transformera une vidéo Youtube montrant l’arrestation d’un manifestant en images de bavure policière, remplaçant en temps réel un coup de Taser en coup de feu, image qui rendra fous-furieux les manifestants… Lesquels étaient pourtant bien placés pour savoir que les images sont falsifiées, puisqu’ils se trouvaient sur place — quelque chose n’est pas très logique ici. À un autre moment, neXt recourt à une Amber Alert, une alerte enlèvement, qui produit une séquence un peu angoissante : le père d’Ethan, qui essaie de mettre son fils à l’abri, est suivi par les regards de toutes les personnes qu’il croise, lesquelles sont devenues à leur insu les agents de neXt, nous rappelant certains films de science-fiction où une foule est subitement contrôlée par un parasite extra-terrestre ou une méthode de manipulation mentale quelconque. Ici, le téléphone qui diffuse l’alerte transforme les gens en véritables zombies.

Lorsque Salazar et LeBlanc parviennent à localiser neXt, c’est à l’Université de Dartmouth, dans le New Hampshire. Ce lieu, qui est une des plus anciennes et des plus prestigieuses université des États-Unis n’a pas été choisi au hasard par les scénaristes : c’est aussi l’endroit où ont eu lieu les célèbres conférences de Dartmouth, qui ont réuni pendant l’été 1956 tous les chercheurs qui s’intéressaient à la simulation informatique des fonctions cognitives, à commencer par Marvin Minsky et John McCarthy, qui ont au passage donné un nom à la discipline qu’ils étaient en train de créer : « Intelligence artificielle ».

À Dartmouth, Paul LeBlanc a justement un de ses rares véritables amis, le professeur Richard Pearish, un scientifique passionné et au dessus de tous soupçons que l’argent indiffère et qui, partant, ne risque pas d’être soudoyé par neXt. Comme Stephen Hawking (qui, on s’en souvient, fait partie avec Elon Musk et Bill Gates des personnalités qui ont appelé à freiner les recherches sur l’Intelligence artificielle), Pearish est lourdement handicapé, complètement dépendant de son fauteuil électrique pour se déplacer, pour maintenir ses fonctions vitales, et pour communiquer, ce qu’il fait à l’aide d’un module de synthèse vocale qui lui donne une voix robotique. Pearish, essaie d’aider l’enquête, sans grand succès. On voit un peu venir la suite, mais elle est plutôt bien trouvée : la voix de Pearish est encore plus robotique qu’elle ne le semble, car le scientifique paralysé est depuis des semaines prisonnier de son propre fauteuil, ce qu’il ne pourra révéler qu’en étant temporairement déconnecté du wifi. Juste avant de mourir tué par un chien-robot (tels que ceux de Boston Dynamics), il explique avoir réuni des données qui permettront de localiser réellement neXt. Comme ce scientifique travaillait sur la biologie, on comprend que le plan de neXt était rien moins que de créer un virus capable d’éradiquer l’espèce humaine.

La suite de la série est un peu fainéante : les différents protagonistes se séparent quand ils ne devraient pas, se retrouvent, se cherchent, se cachent, ne résistent pas à donner un coup de téléphone quand il faudrait l’éviter, sont confiants ou méfiants à mauvais escient, ne font pas circuler les informations importantes, éprouvent des conflits de loyauté et ont un comportement affectif lorsqu’il serait important de garder la tête froide. Les différents rapports familiaux (la fille de LeBlanc ; le frère de LeBlanc ; le père mafieux de Salazar, libéré par neXt de la prison sud-américaine d’où il n’était plus jamais censé sortir ; le père militaire haut-gradé d’un des enquêteurs, qui croit que neXt peut offrir un avantage géostratégique aux États-Unis ; etc.) servent de prétextes un peu faciles pour créer des situations dramatiques. Certains personnages censément intimes des protagonistes manque de profondeur, ils n’apparaissent et ne disparaissent qu’en fonction des besoins immédiats du récit. Plus qu’un simple technologique, neXt rappelle parfois certains films d’horreur, comme lorsque l’assistant vocal profite de la candeur d’un enfant et le pousse à cacher des choses à ses parents, où lorsque l’IA démontre de manière narquoise sa capacité à imiter les voix des uns et des autres, et le fait avec une bouche en silicone. Ou encore lorsque des robots-chiens qui avaient d’abord semblé inoffensifs en plein jour deviennent menaçants dans un couloir sombre. Pour autant, la série reste toujours familiale.

On s’amusera (comme toujours) du grand professionnalisme des acteurs qui lancent de grands mots, effectivement issus de la science informatique mais employés de manière approximative, évasive, voire farfelue, mais qui le font avec tellement de sérieux et d’emphase qu’on se dit que eux, au moins, doivent croire ce qu’ils racontent : « Si mes calculs sont bons, neXt fait quelque chose qui était encore impossible il y a seulement quelques heures — C’est à dire ? — Euh, mieux vaut ne pas en parler au téléphone [on ne saura jamais de quoi il était question] ».

« — Attendez, ce sont les plans d’une ferme de serveurs [d’un site secret de la NSA, dont on ne comprend pas bien comment les enquêteurs ont pu se le procurer]
— je n’ai jamais rien vu de semblable ! [ni personne, mais on va t’expliquer dans une seconde ce que c’est et comment ça fonctionne]
— c’est parce que le design est basé sur une architecture cognitive distribuée [ici, il me semble, il y a une petite confusion entre organisation matérielle d’un centre de données et modélisation logicielle], ce qui est exactement ce que dont cette chose [neXt] a besoin ! »

En effet, la vilaine Intelligence artificielle a un plan : prendre le contrôle d’un site informatique de la NSA, et pour y parvenir, le serveur doit être physiquement amené au cœur de la plus grande et la plus puissante agence de renseignements du monde (car neXt s’avère être une grande armoire connectée qui clignote)

Le scénario fait un peu référence à l’actualité du moment où il a été écrit, puisqu’il évoque de manière transparente les tensions entre les États-Unis et la Chine autour des questions technologiques, et notamment le décret signé par Donald Trump qui a placé sur liste noire la marque Huawei, soupçonnée d’être un outil du renseignement chinois. En effet, pour être amené au cœur du centre de données ultra secret de la NSA, la machine laisse croire qu’elle veut être livrée à la Chine populaire, via un arrangement avec un industriel singapourien. La ruse fonctionne : puisque les autorités chinoises semblent vouloir de la machine, alors les États-unis doivent la préempter, quitte à oublier toute prudence pendant l’opération.

L’idée d’une Intelligence artificielle consciente qui serait toute entière concentrée dans un gros ordinateur est un peu vieillotte, tout comme son projet de supprimer l’espèce humaine. Ces deux points, mais aussi sa manière de pousser les humains à lui apporter des améliorations, et, enfin, le fait qu’il manipule un enfant innocent pour arriver à ses fins, me rappellent une fiction bien plus ancienne dont j’avais parlé sur ce blog, The Invisible Boy, sorti en 1957. Comme The Invisible boy, la série neXt est non seulement un peu naïve et téléphonée, mais je dirais qu’elle est aussi destinée à tous les publics, elle ne provoque a priori pas d’angoisse chez le spectateur, on n’en sort pas avec pour résolution d’échapper aux caméras de surveillance ou de jeter son téléviseur connecté. On n’est pas non plus traumatisé par les scènes où des citoyens sont transformés en émeutiers par les les pannes du réseau électrique.
Et bien entendu, malgré des pertes, malgré le fait que les autorités comme le grand public refusent de croire à ce qui s’est passé, l’équipe triomphe de la menace — en détruisant un data-center.

Il y a une scène qui m’a plutôt amusé : une agente du FBI, Gina, est envoyée, sous une fausse identité, dans le bâtiment de la NSA où se trouve neXt avec pour mission d’introduire un virus dans le système.
Elle l’ignore, mais ce virus n’a pas vocation à détruire neXt, il sert juste à forcer l’IA à se défendre, ce qui permettra de localiser la machine à l’intérieur du centre de données. Ce qui est intéressant, c’est que, pour ne pas attirer l’attention, Gina ne peut se contenter d’amener une clef USB et de charger le virus dans le système, elle doit saisir le code à la main, en recopiant un listing, sans se tromper d’un caractère³.

La série est regardable, sans plus. Son originalité, peut-être, est qu’elle est parcourue en sourdine par un autre thème que celui de l’Intelligence artificielle : il est aussi beaucoup question d’activisme d’extrême-droite et même de terrorisme domestique par des suprématistes blancs qui concentrent notamment leur racisme contre les latino-américains. Le producteur de la série, mort le mois dernier d’un cancer du pancréas, est lui-même d’origine cubaine, et l’actrice principale est brésilienne. Une partie des dialogues de la série sont en castillan. Une série qui, à défaut d’être marquante, est à de nombreux points de vue fortement représentative des préoccupations de l’époque où elle a été produite : Intelligence artificielle, fake news, surveillance, dépendance aux objets intelligents, racisme et rapport de défiance des citoyens envers l’État.

1. Je note une troublante parenté entre le X de la série neXt et celui que vient d’adopter Elon Musk pour le logo qui remplace l’oiseau bleu de Twitter, avec une barre transversale plus épaisse que l’autre… [↩]
2. c’est sur un ordinateurs NeXT et leur OS NeXTstep (ancêtre de MacOS X) qu’a été programmé et hébergé le premier serveur web, au CERN, en 1991 ! [↩]
3. Le langage utilisé semble apparenté au C. [↩]