{"id":40508,"date":"2021-08-28T10:25:09","date_gmt":"2021-08-28T08:25:09","guid":{"rendered":"https:\/\/hyperbate.fr\/dernier\/?p=40508"},"modified":"2022-09-23T12:35:40","modified_gmt":"2022-09-23T10:35:40","slug":"tay","status":"publish","type":"post","link":"https:\/\/hyperbate.fr\/dernier\/?p=40508","title":{"rendered":"Tay"},"content":{"rendered":"\n

On se souvient de l’Intelligence artificielle Tay (acronyme de Thinking About You), cr\u00e9e par Microsoft et mise en fonction sur Twitter le 23 mars 2016. Ce robot conversationnel, con\u00e7u pour apprendre de ses \u00e9changes et pour interpr\u00e9ter les \u00e9motions de ses interlocuteurs (on parle d’informatique affective, empathique, \u00e9motionnelle,…), avait d\u00fb \u00eatre mis hors service apr\u00e8s quelques heures d’activit\u00e9 seulement.
Une semaine plus tard, une version am\u00e9lior\u00e9e du robot a \u00e9t\u00e9 remise en ligne, mais cela n’a pas suffi et il a fallu contraindre Tay au silence, d\u00e9finitivement cette fois. <\/p>\n\n\n\n

\"\"<\/a><\/figure><\/div>\n\n\n\n


Il faut dire que parmi les dizaines de milliers de tweets envoy\u00e9 par Tay au cours de son \u00e9ph\u00e9m\u00e8re carri\u00e8re publique, beaucoup constituent une profonde source d’embarras pour Microsoft : propos misogynes, racistes, n\u00e9gationnistes,…
Cette affaire catastrophique rappelle des fictions telles que Colossus<\/a><\/em>, ou Terminator<\/em><\/a>, o\u00f9 une intelligence artificielle, \u00e0 peine mise en service, devient consciente, puis presque aussit\u00f4t malveillante ou despotique. La r\u00e9alit\u00e9 est heureusement plus plate : Tay avait \u00e9t\u00e9 malicieusement entra\u00een\u00e9e \u00e0 dire des horreurs par des taquins qui ont d\u00e9tourn\u00e9 sa capacit\u00e9 d’apprentissage.
Garbage in, garbage out<\/em>, dit un adage bien connu des informaticiens.<\/p>\n\n\n\n

\"\"<\/a><\/figure><\/div>\n\n\n\n

L’histoire de Tay pose d’autres questions lorsque l’on sait ce robot conversationnel \u00e9tait en fait une copie de \u00ab\u00a0Xiaoice\u00a0\u00bb, un projet similaire lanc\u00e9 en 2014, donc deux ans plus t\u00f4t, toujours par Microsoft et \u00e0 destination du public chinois. Xiaoice a \u00e9crit un recueil de po\u00e8mes, compos\u00e9 et interpr\u00e9t\u00e9 des chansons, pr\u00e9sent\u00e9 des \u00e9missions t\u00e9l\u00e9vis\u00e9es, r\u00e9dig\u00e9 des articles de presse et tenu des conversations avec des centaines de millions de personnes sans que l’on rapporte le moindre incident, \u00e0 une exception pr\u00e8s : en 2017, le robot avait \u00e9t\u00e9 banni de la plate-forme WeChat\/Weixin pour avoir eu quelques commentaires critiques \u00e0 l’\u00e9gard du gouvernement chinois. Xiaoice a alors \u00e9t\u00e9 un peu modifi\u00e9 et, depuis lors, s’est toujours interdit les sujets glissants.<\/p>\n\n\n\n

\"\"<\/a>
La photo est une capture de la vid\u00e9o du discours de Xiaoice, en 2018, qui pr\u00e9sentait la sixi\u00e8me g\u00e9n\u00e9ration de son programme. Comme Tay, Xiaoice \u00e9pouse les traits d’une jeune femme. Compagnon virtuel sur des appareils mobiles, Xiaoice aurait plus d’un demi-milliard d’utilisateurs, dont 75% de sexe masculin. C’est son \u00ab\u00a0intelligence \u00e9motionnelle\u00a0\u00bb qui la distingue de Siri, Alexa ou Cortana.<\/figcaption><\/figure><\/div>\n\n\n\n

Est-ce le fait d’avoir vu le jour dans une soci\u00e9t\u00e9 plus polic\u00e9e \u2014 tant par sa tradition confuc\u00e9enne que par la peur de la surveillance \u2014 qui explique que Xiaoice n’ait pas connu la m\u00eame \u00e9volution que Tay ? Ce robot conversationnel \u00e9mane des laboratoires de recherche asiatiques de Microsoft. Peut-\u00eatre est-ce que Tay, qui en \u00e9tait la version anglophone, n’\u00e9tait pas pr\u00eate \u00e0 affronter un public non-chinois.
Il faut noter que Xiaoice et Tay ne sont pas exactement n\u00e9es dans le m\u00eame \u00e9cosyst\u00e8me technologique : Xiaoice existe par exemple sur WeChat, Weibo, QQ ou Messenger. Tay a v\u00e9cu sur Kik, GroupMe, mais surtout, sur le r\u00e9seau public Twitter, qui est tout \u00e0 la fois une agora, une ar\u00e8ne et, il faut bien l’admettre, un grand d\u00e9fouloir.<\/p>\n\n\n\n

\"\"<\/a>
Zo, qui a succ\u00e9d\u00e9 \u00e0 Tay.<\/figcaption><\/figure><\/div>\n\n\n\n

Quelques mois apr\u00e8s l’\u00e9chec tr\u00e8s m\u00e9diatis\u00e9 de Tay, Microsoft a lanc\u00e9 un nouveau robot conversationnel s’exprimant en anglais, nomm\u00e9 Zo, qui a \u00e9t\u00e9 actif jusqu’en 2019. On pouvait lui parler via Twitter, mais pas en public, uniquement sous forme d’\u00e9changes priv\u00e9s. Con\u00e7ue pour esquiver tous les sujets qui f\u00e2chent, Zo s’est av\u00e9r\u00e9e excessivement \u00ab\u00a0politically correct\u00a0\u00bb, donneuse de le\u00e7ons, et m\u00eame un rien agressive avec ses interlocuteurs, puisqu’il lui est arriv\u00e9 d’interrompre des discussions lorsque l’on tentait de l’amener sur un terrain potentiellement probl\u00e9matique.
Je me demande si des soci\u00e9t\u00e9s de la Silicon Valley \u2014 ou d’ailleurs \u2014 ont os\u00e9 l\u00e2cher sur Twitter des robots conversationnels \u00ab\u00a0intelligents\u00a0\u00bb sans que la nature de ceux-ci soit annonc\u00e9e. Il me semble que \u00e7a serait l’unique moyen pour \u00e9chapper aux d\u00e9tournements, \u00e0 condition bien s\u00fbr que l’artificialit\u00e9 du personnage ne soit pas trop facile \u00e0 percevoir. <\/p>\n\n\n\n

\"\"
Des visuels repr\u00e9sentant Rinna (version indon\u00e9sienne), Rinna (vers japonaise) et Ruuh (Inde).<\/figcaption><\/figure><\/div>\n\n\n\n

Les chatbots<\/em> cr\u00e9es par Microsoft qui ont interagi avec le public asiatique (Xiaoice, Ruuh en Inde, Rinna au Japon, une autre Rinna en Indon\u00e9sie) ont jou\u00e9 chacune un r\u00f4le d’amie \u2014 voire de petite amie \u2014 virtuelle. Au passage on peut se poser des questions sur le profil de tr\u00e8s jeunes femmes qui est syst\u00e9matiquement attribu\u00e9 \u00e0 ces compagnonnes algorithmiques \u2014 lesquelles ont une personnalit\u00e9 qui me semble tr\u00e8s subjectivement un peu plus discr\u00e8te dans le cas des personnages destin\u00e9s au public asiatique que lorsque le public vis\u00e9 est anglo-saxon.
Tay, qui a interagi publiquement avec le monde entier est rapidement devenue une sorte de monstre.
Zo, pour ne pas devenir comme Tay, a d\u00e9velopp\u00e9 une conversation un peu rigide et a refus\u00e9 de d\u00e9vier des sujets anodins. On le voit, donc, c’est le public qui, directement ou indirectement, a fa\u00e7onn\u00e9 la mani\u00e8re d’\u00eatre de chacune, alors que c’est apparemment le m\u00eame logiciel de d\u00e9part qui a \u00e9t\u00e9 utilis\u00e9.<\/p>\n\n\n\n

\"\"
Zo (site officiel)<\/figcaption><\/figure><\/div>\n\n\n\n

Je me disais, et c’est ce qui a inspir\u00e9 l’\u00e9criture de ce billet, que ce ph\u00e9nom\u00e8ne ne touche pas que des robots qui ont \u00e9t\u00e9 con\u00e7us pour se construire en r\u00e9ponse \u00e0 leurs interactions, il touche aussi les humains. De nombreuses personnalit\u00e9s soucieuses de leur audience, peut-\u00eatre toutes les personnes qui d\u00e9pendent d’une audience (artistes, politiques, auteurs, philosophes m\u00e9diatiques, \u00ab\u00a0influenceurs\u00a0\u00bb,…), me semblent amen\u00e9es \u00e0 construire leur personne publique, leurs positions publiques, en fonction de ce que la foule en attend, en fonction de ce que l’on projette \u00e0 leur sujet, par la positive ou par la n\u00e9gative, fuyant ceux qui les critiquent \u2014 et plus encore si les critiques sont fond\u00e9es, car c’est vexant \u2014 et savourant le miel de ceux qui les flattent, et les c\u00e9l\u00e8brent, jusqu’\u00e0 se conformer \u00e0 l’id\u00e9e que l’on se fait d’eux, m\u00eame lorsque c’est sur un malentendu. Imaginons par exemple, au hasard, un virologue \u00e9minent qui jugerait \u00ab\u00a0remarquable\u00a0\u00bb<\/em> le travail de faux journalistes qui ne comprennent pas la diff\u00e9rence entre virus et bact\u00e9rie mais qui l’ont \u00e9rig\u00e9 en h\u00e9ros, et qui \u00e0 l’inverse qualifierait de \u00ab\u00a0vendus\u00a0\u00bb<\/em>, de \u00ab\u00a0g\u00e2teux\u00a0\u00bb<\/em> et \u00ab\u00a0d’imb\u00e9ciles\u00a0\u00bb<\/em> des confr\u00e8res aussi savants que lui mais qui n’ont pas l’heur de partager son analyse.<\/p>\n\n\n\n

\"\"
Une \u00e9quipe de curling \u00e0 Toronto en 1872. Dans ce sport tr\u00e8s ancien (on le voit repr\u00e9sent\u00e9 par Brueghel !), un joueur fait glisser une pierre sur la glace, avec pour but d’atteindre une cible pr\u00e9cise. Son \u00e9quipe, avec des balais, modifie la qualit\u00e9 de la glace pour influencer la trajectoire et la vitesse de la pierre.<\/figcaption><\/figure><\/div>\n\n\n\n

J’enfonce \u00e9videmment une porte grande ouverte en l’\u00e9crivant : bien entendu, l’Humain est un \u00eatre qui apprend en permanence (c’est justement pour approcher de notre fonctionnement que l’on cr\u00e9e des logiciels qui apprennent), et il est un animal social, ce qui implique que sa r\u00e9sistance \u00e0 la pression des pairs est assez faible \u2014 la psychologie sociale l’a suffisamment d\u00e9montr\u00e9. J’imagine, \u00e0 vrai dire, que les personnalit\u00e9s publiques (et je parle \u00e9videmment de celles qui le sont par choix, par par le hasard d’un fait-divers) sont plus r\u00e9sistantes que la moyenne \u00e0 la pression de l’opinion, car pour s’affirmer publiquement elles sont bien forc\u00e9es de cultiver une vraie confiance en elles-m\u00eames, ou en tout cas d’\u00eatre convaincues de leur propre importance : un artiste, par exemple, ou un \u00e9crivain, c’est quelqu’un qui pense que ce qu’il fait, ce qu’il a \u00e0 dire, peut avoir un int\u00e9r\u00eat pour d’autres que pour lui-m\u00eame. Mais ce sont aussi ces personnalit\u00e9s qui, du fait de leur situation, se trouvent le plus fortement et parfois le plus violemment expos\u00e9es \u00e0 des pressions, des incitations ou des attentes.<\/p>\n\n\n\n

\"\"
des vecteurs qui s’orientent suivant ce que leur imposent des p\u00f4les qui les attirent ou les repoussent. R\u00e9alis\u00e9 avec mes petits doigts sur Processing (syst\u00e8me de programmation destin\u00e9 aux artistes qui f\u00eate ses vingt ans !). On en trouve des versions anim\u00e9es sur mon compte Instagram, par exemple ici<\/a>. Je suppose qu’on peut imaginer une formule pour d\u00e9crire (et peut-\u00eatre pas juste m\u00e9taphoriquement) notre rapport aux opinions d’autrui, avec des param\u00e8tres tels que l’intensit\u00e9 des pressions positives et n\u00e9gatives, la proximit\u00e9 \u00e0 laquelle nous y sommes expos\u00e9s (un commentaire a bien plus d’impact s’il \u00e9mane de quelqu’un que nous estimons), le degr\u00e9 de confiance en elle-m\u00eame qu’a la personne soumise aux pressions, ou encore le rail sur lequel elle se trouvait d\u00e9j\u00e0 engag\u00e9e1<\/a><\/sup>… On me reprochera \u00e0 bonnet cyan2<\/a><\/sup> de m’engager dans un m\u00e9lange des genres un peu douteux, qui traite une question psychologique comme un ph\u00e9nom\u00e8ne physique. Je plaide coupable3<\/a><\/sup>.<\/figcaption><\/figure><\/div>\n\n\n\n

Et voil\u00e0 o\u00f9 je souhaite en venir : je veux dire que nous avons, en tant que public, tout comme les gens qui ont amen\u00e9 Tay \u00e0 \u00e9mettre des tweets odieux, une forte responsabilit\u00e9 quant \u00e0 ce que deviennent les personnes expos\u00e9es qui nous int\u00e9ressent \u2014 que nous les admirions ou que nous les conspuions, que nous soutenions ou que nous combattions leurs id\u00e9es. Collectivement, nous fa\u00e7onnons ces personnes4<\/a><\/sup>, nous les modelons en creux ou en bosse, nous d\u00e9cidons au moins en partie de leur trajectoire. Nous avons beau jeu, ensuite, d’en faire des cibles de chamboule-tout en leur reprochant d’\u00eatre devenues les caricatures que nous avons voulu voir en elles.<\/p>\n

  1. Quelqu’un qui s’appuie sur une discipline scientifique, une tradition, une id\u00e9ologie, un groupe, a des prises de positions qui ne d\u00e9pendent pas que de lui et qui lui servent d’appui. [↩<\/a>]<\/span><\/li>
  2. Le bonnet cyan est le couvre-chef des gens pertinents. [↩<\/a>]<\/span><\/li>
  3. Mais je m’autoriserais \u00e0 incriminer Isaac Asimov, dont la \u00ab\u00a0psychohistoire\u00a0\u00bb (Fondation<\/em>) m’a profond\u00e9ment impressionn\u00e9, ado, ou encore la cybern\u00e9tique de Norbert Wienner, d\u00e9couverte plus tard. [↩<\/a>]<\/span><\/li>
  4. Une nouveaut\u00e9 du si\u00e8cle : avec les r\u00e9seaux sociaux, qui font de chacun de nous une personne publique \u00e0 son \u00e9chelle, ce que je tente de d\u00e9crire s’applique \u00e0 tous. Je parle de nouveaut\u00e9, mais peut-\u00eatre n’est-ce qu’une r\u00e9activation d’un vieil outil de coercition sociale : le village. [↩<\/a>]<\/span><\/li><\/ol>","protected":false},"excerpt":{"rendered":"

    On se souvient de l’Intelligence artificielle Tay (acronyme de Thinking About You), cr\u00e9e par Microsoft et mise en fonction sur Twitter le 23 mars 2016. Ce robot conversationnel, con\u00e7u pour apprendre de ses \u00e9changes et pour interpr\u00e9ter les \u00e9motions de ses interlocuteurs (on parle d’informatique affective, empathique, \u00e9motionnelle,…), avait d\u00fb \u00eatre mis hors service apr\u00e8s […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[154,36],"tags":[],"class_list":["post-40508","post","type-post","status-publish","format-standard","hentry","category-ia","category-ordinateur-celebre"],"_links":{"self":[{"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=\/wp\/v2\/posts\/40508","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=40508"}],"version-history":[{"count":4,"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=\/wp\/v2\/posts\/40508\/revisions"}],"predecessor-version":[{"id":40817,"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=\/wp\/v2\/posts\/40508\/revisions\/40817"}],"wp:attachment":[{"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=40508"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=40508"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=40508"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}