Le dernier blog

Jouer à se faire peur des robots

Boston Dynamics poste une nouvelle vidéo, et les réseaux sociaux s’emballent : un robot quadrupède s’approche d’une porte mais ne sait pas comment l’ouvrir. Un second robot équipé d’un bras robot vient à la rescousse, tourne la poignée, tire la porte et la tient le temps que le premier robot et lui-même puissent passer.

Ce qui frappe le public, outre les mouvements des deux robots, c’est de voir deux automates coopérer sans échanger un mot, comme s’ils étaient tacitement à la poursuite d’un même but, en connivence.
Comme souvent, Boston Dynamics a posté cette séquence sans commentaire, sans contextualisation si ce n’est le titre, lui-même très narratif puisqu’il est constitué d’une ligne de dialogue : Hey Buddy, Can You Give Me a Hand? — hé, copain, tu peux me donner un coup de main ? Au spectateur de décider ce qu’il voit, et notamment, le degré d’autonomie et de capacité d’improvisation des machines.
Bien entendu, ce court film est mis en scène, nous voyons deux automates certes très impressionnants, très bien faits, qui font ce que leurs créateurs leur ont demandé de faire. Mais le scénario nous raconte l’histoire de deux robots qui s’entraident. Où vont-ils ? Que veulent-ils ? Comme le montrait brillamment l’exposition Persona au musée du Quai Branly, notre cerveau est sans cesse aux aguets, sans cesse en train de chercher à identifier dans notre environnement des animaux pensants, observants, agissants, animés d’intentions¹.

Quelques captures d’articles traitant de l’affaire des IAs de Facebook « qui ont inventé leur propre langage ». L’iconographie fait ostensiblement référence à la science-fiction, de manière plus ou moins anxiogène.

En juillet dernier, plusieurs journaux, et parfois même des médias pris au sérieux dans le domaine des nouvelles technologies, ont annoncé que des ingénieurs de la société Facebook avaient dû éteindre précipitamment deux automates conversationnels auto-apprenants qui avaient subitement décidé d’inventer un langage inintelligible pour leurs créateurs. Renseignement pris², il s’agissait juste de « bots » destinés à déterminer par eux-mêmes le moyen le plus efficace pour effectuer des négociations — domaine important pour faciliter toutes sortes de transactions entre humains et machines ou entre machines et machines, par exemple entre objets dits « intelligents ». Dans le cas où les « bots » se sont entraînés non avec des humains, mais entre eux, les chercheurs ont supervisé l’apprentissage des programmes afin de ne pas les laisser s’écarter du langage naturel humain. C’est tout : il n’y a pas eu de panique des chercheurs, il ne s’est rien passé, ce sont juste deux logiciels qui échangent des livres et des balles contre des chapeaux et qui tentent chacun de faire une meilleure affaire que l’autre, puisqu’ils sont programmés pour, alors même qu’ils ignorent totalement ce qu’est un livre, une balle ou un chapeau. Quant au langage inventé par les robots, il semble un peu régressif et pas très efficace, si on se fie à ce dialogue³ :

Bob: i can i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else . . . . . . . . . . . . . .
Alice: balls have 0 to me to me to me to me to me to me to me to me to
Bob: you i i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to

Cette affaire technico-médiatique faisait suite à une autre, datant de la fin 2016 : l’invention d’un système de chiffrage de données mis au point par deux Intelligences artificielles, elles aussi prénommées Alice et Bob⁴, afin de ne pas être comprises par Eve, une troisième intelligence artificielle⁵. Là encore, il ne s’agit que de logiciels qui font ce pour quoi ils ont été programmés et qui, s’ils peuvent produire des résultats inattendus, puisque leur programmation inclut la recherche de solutions, ne sont toujours pas des machines conscientes, animées d’intentions propres et occupées à conspirer contre l’espèce humaine. Ce qui n’a pas empêché des titres tels que Des intelligences artificielles ont créé un langage pour communiquer entre elles (L’Express) ; L’intelligence artificielle de Google a-t-elle dépassé l’homme ? (Le Point) ; Deux ordinateurs se parlent dans une langue indéchiffrable par l’Homme (LCI, qui doit ignorer que la langue vernaculaire des machines n’est pas vraiment le langage naturel humain). Même un média sérieux de veille technologique tel que l’Atelier BNP Paribas ne résiste pas, en introduction à un article plus sérieux, à se demander « A quand le Skynet de Terminator qui devient le maître du monde ? ». Skynet et Terminator sont des références extrêmement redondantes lorsque l’on traite des percées de l’Intelligence Artificielle.

Mars 2016 : en quelques heures, le « bot » auto-apprenant Tay a commencé à répéter des phrases racistes, anti-féministes, pro-Trump, pro-Nazis…

Le bot Tay, lancé sur Twitter par Microsoft, dont la capacité à apprendre en dialoguant a été détournée par des taquins qui ont réussi à faire dire les pires horreurs a lui aussi été rapproché de Skynet. Les médias d’information ont bien compris ce qui s’était passé, mais ça ne les a pas empêché, à nouveau, d’évoquer la science-fiction : « De quoi faire (presque) passer Skynet et ses Terminators pour des enfants de choeur » (L’Express) ; « Si l’on est encore loin d’avoir créé un être aussi démoniaque que Skynet, créer une intelligence artificielle qui développe sa propre identité au contact des autres humains reste un pari risqué » (LeSoir.be). Ces articles parlent eux aussi souvent de « débrancher » l’IA qui déraille, action qui, rappelons-le, est souvent ce qui provoque la furie homicide des ordinateurs conscients dans la Science Fiction, de Hal9000 à Skynet. Cherche-t-on à nous dire que s’il n’avait pas été éteint à temps, le logiciel serait devenu dangereux ? Nous avons déjà vu le film, toutes ces promesses ne sont jamais que les réminiscences de fictions passées : Colossus, 2001 l’Odyssée de l’Espace, Alphaville, Transcendance, Ex Machina, etc., etc. On peut d’ailleurs penser à des fictions sans rapport avec l’informatique : en voyant les robots de Boston Dynamics, certains ont pensé aux vélociraptors de Jurassic Park (1993). La révolte des machines qui prennent conscience de l’inutilité et de la faiblesse de leurs maîtres peut rappeler Conquest of the Planet of the Apes (1972). Enfin, les machines dont l’intelligence progresse sans limites et qui œuvrent à un même but sans avoir à échanger un mot font penser aux enfants de Village of the Damned (1960).

Depuis sa naissance en 1956, et même avant, c’est à dire depuis que l’on pense pouvoir reproduire mécaniquement des processus cognitifs capables de fonctionner de manière autonome, l’Intelligence Artificielle excite les prophètes et les Cassandre. Mais le récent retour en grâce de la discipline, grâce aux développements du deep learning ou de la robotique, s’accompagne de promesses d’une imminente catastrophe anthropologique majeure qui verrait l’humanité devenir inutile pour sa création⁶, et ce qui est neuf c’est que ces promesses sont faites par des personnes elles-mêmes engagées dans la discipline : Elon Musk ou Bill Gates, bien sûr, qui financent des recherches dans le domaine tout en prédisant qu’il nous conduit à une Apocalypse, mais aussi Raymond Kurzweil, qui prédit pour bientôt la « Singularité » — l’accès par les machines à la conscience, suivie de leur capacité à nous dépasser en tout. En France, l’urologue transhumaniste Laurent Alexandre parle aussi de l’Intelligence Artificielle comme d’une menace, non au sens d’une menace que l’on doit éviter mais d’un chantage auquel on doit céder : les humains doivent devenir complémentaires de l’Intelligence artificielle, sinon leur cerveau s’atrophiera paresseusement et ils seront inutiles, ne laissant le pouvoir qu’à ceux qui gouverneront la technologie. Laurent Alexandre cite souvent la prophétie de Yuval Noah Harari (Homo deus – Une brève histoire de l’avenir), pour qui  l’humanité future sera séparée entre deux catégories : les « dieux » qui maîtriseront les technologies, et les « inutiles », tous les autres. Et même Vladmir Poutine, un des maîtres du monde, a déclaré que ceux qui seront à la pointe de l’Intelligence artificielle dirigeront le monde⁷.

Demon Seed (1977)

S’il y a une conclusion que je tire de mon enquête sur les mythes de fin du monde, c’est que ceux-ci servent souvent moins à prévenir les catastrophes qu’à jouer avec l’idée très plaisante qu’un bouleversement majeur peut advenir. Lorsque l’on a la certitude de vivre dans un monde instable, sur le point de changer radicalement, on peut s’autoriser à le changer effectivement, à en refuser les lois, comme les hérétiques médiévaux qui, en annonçant l’imminence de l’Apocalypse, se sont permis de contester les hiérarchies les plus ancrées : pouvoir, argent, amour⁸. Tout comme l’Apocalypse biblique, l’Apocalypse numérique s’accompagne d’une promesse d’éternité, de disparition de la mort. L’annonce d’un Armageddon technologique né de la maîtrise de l’Intelligence artificielle, de la robotique, des nanotechnologies et des biotechnologies est peut-être une manière de se convaincre que le monde peut changer. L’idée du changement est bien moins anxiogène que celle de l’immobilité.
De manière plus pragmatique, on sait que les grands bouleversements favorisent ceux qui les auront anticipés et accompagnés. Au lieu de les paralyser, l’idée qu’un désastre est à venir suscite donc des investissements publics et privés et profite directement aux chercheurs, bien que ces derniers soient les premiers à savoir que si un ordinateur a bel et bien battu le champion du monde du jeu de Go, il n’existe toujours aucun ordinateur qui éprouve pour lui-même l’envie de jouer à ce jeu, ni aucun robot qui ait envie d’ouvrir une porte.

Lire aussi : Iconographie du soulèvement des machines. Et l’Intelligence artificielle devint sexy.

1. Voir le phénomène de Paréidolie. [↩]
2. On peut lire l’article scientifique, très technique, publié par les chercheurs, ou sa vulgarisation sur le blog de Facebook. [↩]
3. Dialogue rapporté par Mark Liberman dans l’article balls have zero to me to me to me to me to me to me to me to me to, sur le blog Language Log. J’ignore pourquoi il utilise les noms Alice et Bob ici, car l’article émanant des chercheurs en IA de Facebook nommait juste les intervenants Agent 1 et Agent 2. [↩]
4. Les prénoms Alice et Bob sont employés en cryptologie depuis quarante ans pour définir les rôles de deux personnages cherchant à communiquer de manière sécurisée, humains ou non. [↩]
5. L’étude : Learning to Protect Communications with Adversarial Neural Cryptography, par Martín Abadi et David Andersen du projet Google Brain. [↩]
6. J’aurais pu évoquer la question de la ruine de l’emploi (évoquée depuis deux siècles, et non sans raison), ou, plus anecdotique mais très redondant dans les articles de presse, la promesse du remplacement des partenaires sexuels de chair et d’os par des robots sensibles. [↩]
7. cf. RT le 1er septembre 2017. [↩]
8. Il y a bien d’autres exemples, mais je pense notamment aux partisans de Fra Dolcino, à la fin du XIIIe siècle, qui prônaient l’égalité sociale, l’égalité des sexes et refusait le mariage. Pour ses dangereuses idées, le malheureux a vu ses compagnons exécutés, sa compagne démembrée avant d’être castré, démembré à son tour et brûlé. [↩]