{"id":28340,"date":"2013-11-27T00:16:35","date_gmt":"2013-11-26T23:16:35","guid":{"rendered":"http:\/\/hyperbate.fr\/dernier\/?p=28340"},"modified":"2022-09-23T12:36:36","modified_gmt":"2022-09-23T10:36:36","slug":"les-trois-lois-de-la-robotique-contre-les-dix-commandements","status":"publish","type":"post","link":"https:\/\/hyperbate.fr\/dernier\/?p=28340","title":{"rendered":"Les trois lois de la robotique contre les dix commandements"},"content":{"rendered":"

\"10_commandements_moise\"<\/p>\n

En 1942, Isaac Asimov a expos\u00e9 les trois lois que chaque robot de ses nouvelles et de ses romans est cens\u00e9 respecter, dans cet ordre :<\/p>\n

1. Un robot ne peut porter atteinte \u00e0 un \u00eatre humain ni, par son inaction, permettre qu’un \u00eatre humain soit bless\u00e9.
\n2. Un robot doit ob\u00e9ir aux ordres que lui donnent les \u00eatres humains, except\u00e9 si ceux-ci devaient contrevenir \u00e0 la premi\u00e8re loi.
\n3. Un robot doit assurer sa propre protection, tant que cela n’entre pas en conflit avec la premi\u00e8re et la seconde loi1<\/a><\/sup>.<\/p><\/blockquote>\n

Nombre de r\u00e9cits d’Asimov sont des variations sur les cons\u00e9quences de ces lois et sur la mani\u00e8re dont elles peuvent \u00eatre contourn\u00e9es ou d\u00e9tourn\u00e9es. Assez rapidement, l’auteur forgera une loi z\u00e9ro destin\u00e9e \u00e0 prendre en compte l’int\u00e9r\u00eat g\u00e9n\u00e9ral :<\/p>\n

0. Un robot ne peut pas faire de mal \u00e0 l’humanit\u00e9, ni, par son inaction, permettre que l’humanit\u00e9 soit bless\u00e9e.<\/p><\/blockquote>\n

Bien entendu, ces lois inscrites dans les \u00ab\u00a0cerveaux positroniques\u00a0\u00bb des robots sont un peu na\u00efves dans leur simplicit\u00e9, car avant que l’on puisse dire \u00e0 une machine de ne pas blesser d’\u00eatres humains, il faut lui expliquer ce qu’est un \u00eatre humain, ce qu’est l’humanit\u00e9, et ce que signifie blesser. Mais ces questions pratiques ne sont pas le propos d’Asimov.<\/p>\n

Il existe des variantes aux lois d’Asimov, comme par exemple les \u00ab\u00a0directives\u00a0\u00bb impos\u00e9es au cyborg Robocop, dans la s\u00e9rie de films du m\u00eame nom :<\/p>\n

\u00eatre au service de l’int\u00e9r\u00eat public
\nprot\u00e9ger les innocents
\nfaire respecter la loi
\ninformation classifi\u00e9e<\/p><\/blockquote>\n

La directive classifi\u00e9e stipule que Robocop ne peut arr\u00eater un cadre de la soci\u00e9t\u00e9 Omni Consumer Product<\/em>, dont il est la cr\u00e9ation et la propri\u00e9t\u00e9. Le film traite avec mordant de l’accaparement d’un service public\u00a0\u2014 le maintien de l’ordre\u00a0\u2014, par une soci\u00e9t\u00e9 priv\u00e9e.<\/p>\n

\"...\"

Cosmos 1999, saison 2 \u00e9pisode 5, Brian the brain<\/a><\/em>\u00a0(1976). Excellente s\u00e9rie au d\u00e9part, Cosmos 1999 a vu sa seconde saison alt\u00e9r\u00e9e par une tentative de conqu\u00e9rir le public am\u00e9ricain, qui n’avait pas appr\u00e9ci\u00e9 la premi\u00e8re saison. Cela se traduit par une forme discr\u00e8te de racisme et de sexisme, et par une certaine bigoterie, comme ici, o\u00f9 le commandant Koenig propose d’apprendre les dix commandements \u00e0 un ordinateur conscient afin que celui-ci ait une morale.<\/p><\/div>\n

Parmi les alternatives aux lois d’Asimov propos\u00e9es pour donner une morale aux ordinateurs ou aux robots, je rel\u00e8ve au moins deux fois la mention du d\u00e9calogue biblique, dans Cosmos 1999<\/em>\u00a0(1976), et dans Terminator: The Sarah Connor Chronicles\u00a0<\/em>(2009).
\nJe suis preneur de tout autre exemple dans le domaine.<\/p>\n

\"terminator_chronicle_commandments\"

Terminator: The Sarah Connor Chronicles<\/em>, saison 2, \u00e9pisode 10. Confront\u00e9 \u00e0 l\u2019intelligence artificielle \u00ab\u00a0John Henry\u00a0\u00bb, qui n’a aucune forme de morale, l’agent du FBI James Ellison propose que l’on enseigne les dix commandements \u00e0 la machine. Cette s\u00e9rie n’est pas sc\u00e9naris\u00e9e ou produite par James Cameron, le cr\u00e9ateur de Terminator, et cela se ressent notamment dans les r\u00e9f\u00e9rences constantes \u00e0 la religion.<\/p><\/div>\n

La proposition de recourir aux dix commandements pour imposer un sens moral \u00e0 des machines est chaque fois pr\u00e9sent\u00e9e comme une \u00e9vidence. Pourtant, il n’y a pas de raison que \u00e7a le soit, car ces commandements ne sont que partiellement une affaire de morale commune. Bien s\u00fbr, la plupart des gens retiennent du d\u00e9calogue ses conseils de bon sens, comme \u00ab\u00a0tu ne tueras point\u00a0\u00bb<\/em>, \u00ab\u00a0tu ne voleras point\u00a0\u00bb<\/em> et \u00ab\u00a0tu ne convoiteras pas les biens de ton voisin\u00a0\u00bb<\/em>. Mais l’\u00e9num\u00e9ration est loin de s’y limiter. En fait, les premiers commandements portent sur les modalit\u00e9s de la v\u00e9n\u00e9ration que Dieu exige : il n’y a qu’un seul Dieu ; il est interdit d’en adorer un autre2<\/a><\/sup> ; il est interdit de produire des repr\u00e9sentations ; il faut respecter le jour du shabbat ; il est interdit de blasph\u00e9mer.<\/p>\n

\"Cecil

Les Dix commandements<\/em>, par Cecil B. de Mille (1956), avec Charlton Heston dans le r\u00f4le de Mo\u00efse.<\/p><\/div>\n

J’imagine qu’il n’existe pas de soci\u00e9t\u00e9 viable o\u00f9 le meurtre n’est pas proscrit, ou plus exactement encadr\u00e9, et j’imagine aussi qu’aucune soci\u00e9t\u00e9 d’agriculture et d’\u00e9levage, reposant sur la propri\u00e9t\u00e9 priv\u00e9e, ne peut fonctionner sans interdire le vol.
\nAinsi, ordonner \u00ab\u00a0tu ne tueras point\u00a0\u00bb et \u00ab\u00a0tu ne voleras point\u00a0\u00bb ne mange pas de pain, comme on dit, mais ne me semble en rien r\u00e9volutionnaire. Et je ne parierais pas que ces lois aient \u00e9t\u00e9 surprenantes lorsque Mo\u00efse est descendu du mont Sina\u00ef pour les annoncer.<\/p>\n

Plus in\u00e9dites et \u00e9tonnantes sont sans doute les lois inscrites dans le L\u00e9vitique<\/em><\/a>, le livre qui succ\u00e8de \u00e0 l’Exode<\/em><\/a>, o\u00f9 Mo\u00efse ajoute de nombreuses pr\u00e9cisions aux dix commandements : comment sacrifier des animaux, dans quel ordre les d\u00e9pecer, selon quelle orientation les br\u00fbler, comment habiller et raser les sacrificateurs, de quelles allergies alimentaires souffre l’\u00c9ternel (pas de miel ni de levain dans les offrandes), comment se faire pardonner si l’on a involontairement manqu\u00e9 au respect des commandements, et enfin, une incroyable quantit\u00e9 d’amendements \u00e0 la loi \u00ab\u00a0tu ne tueras point\u00a0\u00bb<\/em> : on a le droit de punir par la mort les gens poss\u00e9d\u00e9s par des esprits, les gens qui communiquent avec des fant\u00f4mes, les gens capables de divination, les homosexuels, les gens qui pratiquent l’enl\u00e8vement, les couples adult\u00e9rins, les filles de sacrificateurs qui ne savent pas se tenir, les gens qui maudissent leurs parents, qui forniquent avec des animaux, les couples incestueux, les assassins intentionnels, etc.
\nIl y a m\u00eame des cas o\u00f9 sont punis par la mort ceux qui ont refus\u00e9 de donner la mort aux adorateurs du dieu concurrent Moloc. \u00ab\u00a0Tu ne tueras point\u00a0\u00bb<\/em>, enfin sauf si on te l’ordonne.<\/p>\n

\"....\"

En introduction (dans les versions cin\u00e9ma et DVD du film, mais pas dans sa version diffus\u00e9e \u00e0 la t\u00e9l\u00e9vision), Cecil B. de Mille explique l’enjeu du film : les hommes doivent-ils \u00eatre dirig\u00e9s par la loi de Dieu, ou doivent-ils subir les caprices de dictateurs tels Ramses ? Les hommes sont-il la propri\u00e9t\u00e9 de l’\u00c9tat, ou sont-ils des \u00e2mes libres sous la domination de Dieu ?
On voit l\u00e0 assez bien expos\u00e9 le caract\u00e8re apparemment contradictoire entre deux traits forts de la culture des \u00c9tats-Unis : la bigoterie d’une part, et la sacralisation de la libert\u00e9 individuelle d’autre part.<\/p><\/div>\n

S’il y a de vrais progr\u00e8s dans les lois bibliques, c’est peut-\u00eatre dans d’autres d\u00e9tails tir\u00e9s de l’Exode, comme le fait d’imposer que les esclaves deviennent des hommes libres au bout de sept ann\u00e9es de service, de dire qu’il ne faut pas maltraiter l’\u00e9tranger3<\/a><\/sup>, ou encore qu’un p\u00e9cheur est seul responsable de ses m\u00e9faits, dont on ne doit tenir ses enfants ou ses parents pour coupables, c’est \u00e0 dire de refuser le principe de la vendetta4<\/a><\/sup>.<\/p>\n

\"...\"

Pour bien montrer l’horreur d’une soci\u00e9t\u00e9 qui ignore le respect des dix commandements, Cecil B. de Mille montre les h\u00e9breux, enfin sortis de captivit\u00e9 mais sans nouvelles de Mo\u00efse devenus \u00ab\u00a0comme la mer agit\u00e9e, Qui ne peut se calmer, Et dont les eaux soul\u00e8vent la vase et le limon\u00a0\u00bb (Isa\u00efe 57:20) : on mange, on boit, on joue, on s’amuse, on fait des statues, on s’embrasse, et, abomination, les femmes chevauchent des hommes ! Vivement que le bon vieux patriarcat-\u00e0-papa (oui je sais, c’est redondant) soit r\u00e9tabli et que tout le monde s’ennuie \u00e0 nouveau, dans le respect de la hi\u00e9rarchie.<\/p><\/div>\n

Quoi qu’il en soit, pr\u00e9senter les dix commandements comme une morale universelle et applicable y compris \u00e0 des machines intelligentes semble peu avis\u00e9, tout comme de vouloir imposer des lois potentiellement contradictoires \u00e0 une m\u00e9canique logique. Isaac Asimov \u00e9tait emprunt de culture juive, quoique ne manquant pas d’un regard critique sur cet h\u00e9ritage5<\/a><\/sup>, et on peut imaginer qu’il a eu en t\u00eate les lois de Mo\u00efse en forgeant les siennes6<\/a><\/sup>, si ce n’est que dans le cas des lois de la robotique, l’int\u00e9r\u00eat g\u00e9n\u00e9ral et particulier des humains prime sur tout. \u00ab\u00a0Le\u00a0\u00bb cr\u00e9ateur est oubli\u00e9 au profit \u00ab\u00a0des\u00a0\u00bb cr\u00e9ateurs, enfin \u00e9mancip\u00e9s, et enfin responsables de leurs actions les uns envers les autres7<\/a><\/sup>.<\/p>\n

  1. A robot may not injure a human being or, through inaction, allow a human being to come to harm.\u00a0A robot must obey the orders given to it by human beings, except where such orders would conflict with the First Law.\u00a0A robot must protect its own existence as long as such protection does not conflict with the First or Second Law. [↩<\/a>]<\/span><\/li>
  2. Exode 34:14 : Tu ne te prosterneras point devant un autre dieu\u00a0; car l\u2019\u00c9ternel porte le nom de jaloux, il est un Dieu jaloux<\/em>.\u00a0Ce dieu unique qui est jaloux des autres divinit\u00e9s m’a toujours sembl\u00e9 \u00e9tonamment peu s\u00fbr de lui et de son unicit\u00e9 ! [↩<\/a>]<\/span><\/li>
  3. Exode 22:21 :\u00a0Tu ne maltraiteras point l’\u00e9tranger, et tu ne l’opprimeras point; car vous avez \u00e9t\u00e9 \u00e9trangers dans le pays d’Egypte<\/em>. [↩<\/a>]<\/span><\/li>
  4. En m\u00eame temps, l’\u00c9ternel n’exclut pas qu’un p\u00e9ch\u00e9 ait des cons\u00e9quences sur la descendance du p\u00e9cheur jusqu’\u00e0 la troisi\u00e8me ou la quatri\u00e8me g\u00e9n\u00e9ration… Entre punition d’une lign\u00e9e et cons\u00e9quences f\u00e2cheuses, la ligne est un peu floue. [↩<\/a>]<\/span><\/li>
  5. Asimov raconte par exemple dans ses m\u00e9moires<\/a> comment il s’est disput\u00e9 avec \u00c9lie Wiesel en lui disant que si les juifs avaient \u00e9t\u00e9 bien plus souvent victimes que bourreaux au cours de leur histoire, c’est juste parce qu’ils n’avaient que rarement \u00e9t\u00e9 en position de faire autrement, et que lorsque \u00e7a s’est produit, ils n’ont pas \u00e9t\u00e9 meilleurs que d’autres. [↩<\/a>]<\/span><\/li>
  6. Pour l’anecdote, signalons qu’Asimov pr\u00e9tendait ne pas \u00eatre l’inventeur de ces trois lois, et les tenir de John Campbell son \u00e9diteur, lequel affirmait n’avoir rien fait d’autre qu’aider l’auteur de Fondation<\/em> \u00e0 formuler une id\u00e9e qu’il avait en germe depuis longtemps… [↩<\/a>]<\/span><\/li>
  7. La libert\u00e9, l’autonomie, l’esclave, le robot,… Tous ces th\u00e8mes tournent beaucoup autour de la question du labeur, non ? [↩<\/a>]<\/span><\/li><\/ol>","protected":false},"excerpt":{"rendered":"

    En 1942, Isaac Asimov a expos\u00e9 les trois lois que chaque robot de ses nouvelles et de ses romans est cens\u00e9 respecter, dans cet ordre : 1. Un robot ne peut porter atteinte \u00e0 un \u00eatre humain ni, par son inaction, permettre qu’un \u00eatre humain soit bless\u00e9. 2. Un robot doit ob\u00e9ir aux ordres que […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[154,21],"tags":[],"class_list":["post-28340","post","type-post","status-publish","format-standard","hentry","category-ia","category-interactivite"],"_links":{"self":[{"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=\/wp\/v2\/posts\/28340","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=28340"}],"version-history":[{"count":1,"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=\/wp\/v2\/posts\/28340\/revisions"}],"predecessor-version":[{"id":41884,"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=\/wp\/v2\/posts\/28340\/revisions\/41884"}],"wp:attachment":[{"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=28340"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=28340"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=28340"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}