{"id":38389,"date":"2018-02-16T10:43:45","date_gmt":"2018-02-16T09:43:45","guid":{"rendered":"http:\/\/hyperbate.fr\/dernier\/?p=38389"},"modified":"2026-02-16T12:33:31","modified_gmt":"2026-02-16T11:33:31","slug":"jouer-a-se-faire-peur-des-robots","status":"publish","type":"post","link":"https:\/\/hyperbate.fr\/dernier\/?p=38389","title":{"rendered":"Jouer \u00e0 se faire peur des robots"},"content":{"rendered":"\n

Boston Dynamics<\/em> poste une nouvelle vid\u00e9o, et les r\u00e9seaux sociaux s’emballent : un robot quadrup\u00e8de s’approche d’une porte mais ne sait pas comment l’ouvrir. Un second robot \u00e9quip\u00e9 d’un bras robot vient \u00e0 la rescousse, tourne la poign\u00e9e, tire la porte et la tient le temps que le premier robot et lui-m\u00eame puissent passer.<\/p>\n\n\n

\n
\"\"<\/a><\/figure>\n<\/div>\n\n\n

<\/p>\n\n\n\n

Ce qui frappe le public, outre les mouvements des deux robots, c’est de voir deux automates coop\u00e9rer sans \u00e9changer un mot, comme s’ils \u00e9taient tacitement \u00e0 la poursuite d’un m\u00eame but, en connivence.
Comme souvent, Boston Dynamics<\/em> a post\u00e9 cette s\u00e9quence sans commentaire, sans contextualisation si ce n’est le titre, lui-m\u00eame tr\u00e8s narratif puisqu’il est constitu\u00e9 d’une ligne de dialogue\u00a0:\u00a0Hey Buddy, Can You Give Me a Hand?<\/em>\u00a0\u2014 h\u00e9, copain, tu peux me donner un coup de main\u202f? Au spectateur de d\u00e9cider ce qu’il voit, et notamment, le degr\u00e9 d’autonomie et de capacit\u00e9 d’improvisation des machines.
Bien entendu, ce court film est mis en sc\u00e8ne, nous voyons deux automates certes tr\u00e8s impressionnants, tr\u00e8s bien faits, qui font ce que leurs cr\u00e9ateurs leur ont demand\u00e9 de faire. Mais le sc\u00e9nario nous raconte l’histoire de deux robots qui s’entraident. O\u00f9 vont-ils\u202f? Que veulent-ils\u202f? Comme le montrait brillamment l’exposition Persona<\/em> au mus\u00e9e du Quai Branly, notre cerveau est sans cesse aux aguets, sans cesse en train de chercher \u00e0 identifier dans notre environnement des animaux pensants, observants, agissants, anim\u00e9s d’intentions1<\/a><\/sup>.<\/p>\n\n\n

\n
\"\"
Quelques captures d’articles traitant de l’affaire des IAs de Facebook \u00ab\u00a0qui ont invent\u00e9 leur propre langage\u00a0\u00bb. L’iconographie fait ostensiblement r\u00e9f\u00e9rence \u00e0 la science-fiction, de mani\u00e8re plus ou moins anxiog\u00e8ne.<\/figcaption><\/figure>\n<\/div>\n\n\n

En juillet dernier, plusieurs journaux, et parfois m\u00eame des m\u00e9dias pris au s\u00e9rieux dans le domaine des nouvelles technologies, ont annonc\u00e9 que des ing\u00e9nieurs de la soci\u00e9t\u00e9 Facebook avaient d\u00fb \u00e9teindre pr\u00e9cipitamment deux automates conversationnels auto-apprenants qui avaient subitement d\u00e9cid\u00e9 d’inventer un langage inintelligible pour leurs cr\u00e9ateurs. Renseignement pris2<\/a><\/sup>, il s’agissait juste de \u00ab\u00a0bots\u00a0\u00bb destin\u00e9s \u00e0 d\u00e9terminer par eux-m\u00eames le moyen le plus efficace pour effectuer des n\u00e9gociations \u2014 domaine important pour faciliter toutes sortes de transactions entre humains et machines ou entre machines et machines, par exemple entre objets dits \u00ab\u00a0intelligents\u00a0\u00bb. Dans le cas o\u00f9 les \u00ab\u00a0bots\u00a0\u00bb se sont entra\u00een\u00e9s non avec des humains, mais entre eux, les chercheurs ont supervis\u00e9 l’apprentissage des programmes afin de ne pas les laisser s’\u00e9carter du langage naturel humain. C’est tout : il n’y a pas eu de panique des chercheurs, il ne s’est rien pass\u00e9, ce sont juste deux logiciels qui \u00e9changent des livres et des balles contre des chapeaux et qui tentent chacun de faire une meilleure affaire que l’autre, puisqu’ils sont programm\u00e9s pour, alors m\u00eame qu’ils ignorent totalement ce qu’est un livre, une balle ou un chapeau. Quant au langage invent\u00e9 par les robots, il semble un peu r\u00e9gressif et pas tr\u00e8s efficace, si on se fie \u00e0 ce dialogue3<\/a><\/sup> :<\/p>\n\n\n\n

\n

Bob: i can i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else . . . . . . . . . . . . . .
Alice: balls have 0 to me to me to me to me to me to me to me to me to
Bob: you i i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to<\/p>\n<\/blockquote>\n\n\n\n

Cette affaire technico-m\u00e9diatique faisait suite \u00e0 une autre, datant de la fin 2016\u00a0: l’invention d’un syst\u00e8me de chiffrage de donn\u00e9es mis au point par deux Intelligences artificielles, elles aussi pr\u00e9nomm\u00e9es Alice et Bob4<\/a><\/sup>, afin de ne pas \u00eatre comprises par Eve, une troisi\u00e8me intelligence artificielle5<\/a><\/sup>. L\u00e0 encore, il ne s’agit que de logiciels qui font ce pour quoi ils ont \u00e9t\u00e9 programm\u00e9s et qui, s’ils peuvent produire des r\u00e9sultats inattendus, puisque leur programmation inclut la recherche de solutions, ne sont toujours pas des machines conscientes, anim\u00e9es d’intentions propres et occup\u00e9es \u00e0 conspirer contre l’esp\u00e8ce humaine. Ce qui n’a pas emp\u00each\u00e9 des titres tels que\u00a0Des intelligences artificielles ont cr\u00e9\u00e9 un langage pour communiquer entre elles<\/em> (L’Express<\/em>)\u202f;\u00a0L’intelligence artificielle de Google a-t-elle d\u00e9pass\u00e9 l’homme\u202f?<\/em> (Le Point<\/em>)\u202f;\u00a0Deux ordinateurs se parlent dans une langue ind\u00e9chiffrable par l’Homme<\/em> (LCI<\/em>, qui doit ignorer que la langue vernaculaire des machines n’est pas vraiment le langage naturel humain). M\u00eame un m\u00e9dia s\u00e9rieux de veille technologique tel que l’Atelier BNP Paribas<\/em> ne r\u00e9siste pas, en introduction \u00e0 un article plus s\u00e9rieux, \u00e0 se demander \u00ab\u00a0<\/em>A quand le Skynet de Terminator qui devient le ma\u00eetre du monde\u202f?\u00a0\u00bb<\/em>. Skynet et Terminator sont des r\u00e9f\u00e9rences extr\u00eamement redondantes lorsque l’on traite des perc\u00e9es de l’Intelligence Artificielle.<\/span><\/p>\n\n\n

\n
\"\"
Mars 2016 : en quelques heures, le \u00ab\u00a0bot\u00a0\u00bb auto-apprenant Tay a commenc\u00e9 \u00e0 r\u00e9p\u00e9ter des phrases racistes, anti-f\u00e9ministes, pro-Trump, pro-Nazis…<\/figcaption><\/figure>\n<\/div>\n\n\n

Le bot Tay<\/em>, lanc\u00e9 sur Twitter<\/em> par Microsoft<\/em>, dont la capacit\u00e9 \u00e0 apprendre en dialoguant a \u00e9t\u00e9 d\u00e9tourn\u00e9e par des taquins qui ont r\u00e9ussi \u00e0 faire dire les pires horreurs a lui aussi \u00e9t\u00e9 rapproch\u00e9 de Skynet<\/em>. Les m\u00e9dias d’information ont bien compris ce qui s’\u00e9tait pass\u00e9, mais \u00e7a ne les a pas emp\u00each\u00e9, \u00e0 nouveau, d’\u00e9voquer la science-fiction\u00a0:\u00a0\u00ab\u00a0De quoi faire (presque) passer Skynet et ses Terminators pour des enfants de choeur\u00a0\u00bb<\/em>\u00a0(L’Express)\u202f;\u00a0\u00ab\u00a0Si l\u2019on est encore loin d\u2019avoir cr\u00e9\u00e9 un \u00eatre aussi d\u00e9moniaque que Skynet, cr\u00e9er une intelligence artificielle qui d\u00e9veloppe sa propre identit\u00e9 au contact des autres humains reste un pari risqu\u00e9\u00a0\u00bb<\/em>\u00a0(LeSoir.be). Ces articles parlent eux aussi souvent de\u00a0\u00ab\u00a0d\u00e9brancher\u00a0\u00bb<\/em> l’IA qui d\u00e9raille, action qui, rappelons-le, est souvent ce qui provoque la furie homicide des ordinateurs conscients dans la Science Fiction, de Hal9000<\/a> \u00e0 Skynet<\/a>. Cherche-t-on \u00e0 nous dire que s’il n’avait pas \u00e9t\u00e9 \u00e9teint \u00e0 temps, le logiciel serait devenu dangereux\u202f? Nous avons d\u00e9j\u00e0 vu le film, toutes ces promesses ne sont jamais que les r\u00e9miniscences de fictions pass\u00e9es\u00a0: Colossus<\/em><\/a>, 2001 l’Odyss\u00e9e de l’Espace<\/em><\/a>, Alphaville<\/em><\/a>, Transcendance<\/em>, Ex Machina<\/em>, etc., etc. On peut d’ailleurs penser \u00e0 des fictions sans rapport avec l’informatique\u00a0: en voyant les robots de Boston Dynamics<\/em>, certains ont pens\u00e9 aux v\u00e9lociraptors de Jurassic Park<\/em>\u00a0(1993). La r\u00e9volte des machines qui prennent conscience de l’inutilit\u00e9 et de la faiblesse de leurs ma\u00eetres peut rappeler\u00a0Conquest of the Planet of the Apes<\/em> (1972). Enfin, les machines dont l’intelligence progresse sans limites et qui \u0153uvrent \u00e0 un m\u00eame but sans avoir \u00e0 \u00e9changer un mot font penser aux enfants de Village of the Damned<\/em> (1960).<\/p>\n\n\n

\n
\"\"<\/figure>\n<\/div>\n\n\n

<\/p>\n\n\n\n

Depuis sa naissance en 1956, et m\u00eame avant, c’est \u00e0 dire depuis que l’on pense pouvoir reproduire m\u00e9caniquement des processus cognitifs capables de fonctionner de mani\u00e8re autonome, l’Intelligence Artificielle excite les proph\u00e8tes et les Cassandre. Mais le r\u00e9cent retour en gr\u00e2ce de la discipline, gr\u00e2ce aux d\u00e9veloppements du deep learning<\/em> ou de la robotique, s’accompagne de promesses d’une imminente catastrophe anthropologique majeure qui verrait l’humanit\u00e9 devenir inutile pour sa cr\u00e9ation6<\/a><\/sup>, et ce qui est neuf c’est que ces promesses sont faites par des personnes elles-m\u00eames engag\u00e9es dans la discipline : Elon Musk ou Bill Gates, bien s\u00fbr, qui financent des recherches dans le domaine tout en pr\u00e9disant qu’il nous conduit \u00e0 une Apocalypse, mais aussi Raymond Kurzweil, qui pr\u00e9dit pour bient\u00f4t la \u00ab\u00a0Singularit\u00e9\u00a0\u00bb \u2014 l’acc\u00e8s par les machines \u00e0 la conscience, suivie de leur capacit\u00e9 \u00e0 nous d\u00e9passer en tout. En France, l’urologue transhumaniste Laurent Alexandre parle aussi de l’Intelligence Artificielle comme d’une menace, non au sens d’une menace que l’on doit \u00e9viter mais d’un chantage auquel on doit c\u00e9der : les humains doivent devenir compl\u00e9mentaires de l’Intelligence artificielle, sinon leur cerveau s’atrophiera paresseusement et ils seront inutiles, ne laissant le pouvoir qu’\u00e0 ceux qui gouverneront la technologie. Laurent Alexandre cite souvent la proph\u00e9tie de Yuval Noah Harari (Homo deus – Une br\u00e8ve histoire de l\u2019avenir<\/em>), pour qui  l’humanit\u00e9 future sera s\u00e9par\u00e9e entre deux cat\u00e9gories : les \u00ab\u00a0dieux\u00a0\u00bb qui ma\u00eetriseront les technologies, et les \u00ab\u00a0inutiles\u00a0\u00bb, tous les autres. Et m\u00eame Vladmir Poutine, un des ma\u00eetres du monde, a d\u00e9clar\u00e9 que ceux qui seront \u00e0 la pointe de l’Intelligence artificielle dirigeront le monde7<\/a><\/sup>.<\/p>\n\n\n

\n
\"\"
Demon Seed<\/em> (1977)<\/figcaption><\/figure>\n<\/div>\n\n\n

S’il y a une conclusion que je tire de mon enqu\u00eate sur les mythes de fin du monde<\/a>, c’est que ceux-ci servent souvent moins \u00e0 pr\u00e9venir les catastrophes qu’\u00e0 jouer avec l’id\u00e9e tr\u00e8s plaisante qu’un bouleversement majeur peut advenir. Lorsque l’on a la certitude de vivre dans un monde instable, sur le point de changer radicalement, on peut s’autoriser \u00e0 le changer effectivement, \u00e0 en refuser les lois, comme les h\u00e9r\u00e9tiques m\u00e9di\u00e9vaux qui, en annon\u00e7ant l’imminence de l’Apocalypse, se sont permis de contester les hi\u00e9rarchies les plus ancr\u00e9es : pouvoir, argent, amour8<\/a><\/sup>. Tout comme l’Apocalypse biblique, l’Apocalypse num\u00e9rique s’accompagne d’une promesse d’\u00e9ternit\u00e9, de disparition de la mort. L’annonce d’un Armageddon technologique n\u00e9 de la ma\u00eetrise de l’Intelligence artificielle, de la robotique, des nanotechnologies et des biotechnologies est peut-\u00eatre une mani\u00e8re de se convaincre que le monde peut changer. L’id\u00e9e du changement est bien moins anxiog\u00e8ne que celle de l’immobilit\u00e9.
<\/span>De mani\u00e8re plus pragmatique, on sait que les <\/span>grands bouleversements favorisent ceux qui les auront anticip\u00e9s et accompagn\u00e9s. Au lieu de les paralyser, l’id\u00e9e qu’un d\u00e9sastre est \u00e0 venir <\/span>suscite donc des investissements publics et priv\u00e9s et profite directement aux chercheurs, bien que ces derniers soient les premiers \u00e0 savoir que si un ordinateur a bel et bien battu le champion du monde du jeu de Go, il n’existe toujours aucun ordinateur qui \u00e9prouve pour lui-m\u00eame l’envie de jouer \u00e0 ce jeu, ni aucun robot qui ait envie d’ouvrir une porte.<\/span><\/p>\n\n\n\n

Lire aussi : Iconographie du soul\u00e8vement des machines<\/a><\/em>. Et l’Intelligence artificielle devint sexy<\/a><\/em>.<\/small><\/p>\n

  1. Voir le ph\u00e9nom\u00e8ne de\u00a0Par\u00e9idolie<\/a>. [↩<\/a>]<\/span><\/li>
  2. On peut lire l’article scientifique<\/a>, tr\u00e8s technique, publi\u00e9 par les chercheurs, ou sa vulgarisation<\/a> sur le blog de Facebook. [↩<\/a>]<\/span><\/li>
  3. Dialogue rapport\u00e9 par Mark Liberman dans l’article balls have zero to me to me to me to me to me to me to me to me to<\/em><\/a>, sur le blog Language Log<\/em>. J’ignore pourquoi il utilise les noms Alice et Bob ici, car l’article \u00e9manant des chercheurs en IA de Facebook nommait juste les intervenants Agent 1 et Agent 2. [↩<\/a>]<\/span><\/li>
  4. Les pr\u00e9noms Alice et Bob<\/a> sont employ\u00e9s en cryptologie depuis quarante ans pour d\u00e9finir les r\u00f4les de deux personnages cherchant \u00e0 communiquer de mani\u00e8re s\u00e9curis\u00e9e, humains ou non. [↩<\/a>]<\/span><\/li>
  5. L’\u00e9tude\u00a0: Learning to Protect Communications with Adversarial Neural Cryptography<\/em><\/a>, par Mart\u00edn Abadi et David Andersen du projet Google Brain. [↩<\/a>]<\/span><\/li>
  6. J’aurais pu \u00e9voquer la question de la ruine de l’emploi (\u00e9voqu\u00e9e depuis deux si\u00e8cles, et non sans raison), ou, plus anecdotique mais tr\u00e8s redondant dans les articles de presse, la promesse du remplacement des partenaires sexuels de chair et d’os par des robots sensibles. [↩<\/a>]<\/span><\/li>
  7. cf. RT<\/em> le 1er septembre 2017<\/a>. [↩<\/a>]<\/span><\/li>
  8. Il y a bien d’autres exemples, mais je pense notamment aux partisans de Fra Dolcino, \u00e0 la fin du XIIIe si\u00e8cle, qui pr\u00f4naient l’\u00e9galit\u00e9 sociale, l’\u00e9galit\u00e9 des sexes et refusait le mariage. Pour ses dangereuses id\u00e9es, le malheureux a vu ses compagnons ex\u00e9cut\u00e9s, sa compagne d\u00e9membr\u00e9e avant d’\u00eatre castr\u00e9, d\u00e9membr\u00e9 \u00e0 son tour et br\u00fbl\u00e9. [↩<\/a>]<\/span><\/li><\/ol>","protected":false},"excerpt":{"rendered":"

    Boston Dynamics poste une nouvelle vid\u00e9o, et les r\u00e9seaux sociaux s’emballent : un robot quadrup\u00e8de s’approche d’une porte mais ne sait pas comment l’ouvrir. Un second robot \u00e9quip\u00e9 d’un bras robot vient \u00e0 la rescousse, tourne la poign\u00e9e, tire la porte et la tient le temps que le premier robot et lui-m\u00eame puissent passer. Ce qui […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[100,154,21,30],"tags":[],"class_list":["post-38389","post","type-post","status-publish","format-standard","hentry","category-fictionosphere","category-ia","category-interactivite","category-logiciels"],"_links":{"self":[{"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=\/wp\/v2\/posts\/38389","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=38389"}],"version-history":[{"count":2,"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=\/wp\/v2\/posts\/38389\/revisions"}],"predecessor-version":[{"id":47291,"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=\/wp\/v2\/posts\/38389\/revisions\/47291"}],"wp:attachment":[{"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=38389"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=38389"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=38389"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}