{"id":40381,"date":"2021-09-26T17:45:28","date_gmt":"2021-09-26T15:45:28","guid":{"rendered":"https:\/\/hyperbate.fr\/dernier\/?p=40381"},"modified":"2022-09-23T12:31:48","modified_gmt":"2022-09-23T10:31:48","slug":"ethique-de-lintelligence-artificielle","status":"publish","type":"post","link":"https:\/\/hyperbate.fr\/dernier\/?p=40381","title":{"rendered":"\u00c9thique de l’Intelligence artificielle"},"content":{"rendered":"\n

J’ai le grand plaisir d’annoncer (avec un peu de retard) que je suis, depuis le d\u00e9but de cette ann\u00e9e membre du Conseil d’\u00e9thique de l’Intelligence artificielle et de la data<\/em> d’Orange<\/a>, aux c\u00f4t\u00e9s de Raja Chatila, C\u00e9cile Dejoux, L\u00ea Nguy\u00ean Hoang, Mark Hunyadi, \u00c9tienne Klein, Caroline Lequesne-Roth, Claire Levallois Barth, Winston Maxwell, Sasha Rubel, Fran\u00e7oise Soulie-Fogelman. Ce conseil, pr\u00e9sid\u00e9 par St\u00e9phane Richard, va \u00e9tablir une charte et examiner des recherches actuellement men\u00e9es par Orange afin de r\u00e9fl\u00e9chir \u00e0 leurs implications \u00e9thiques1<\/a><\/sup>. <\/p>\n\n\n

\n
\"\"
L’intelligence artificielle Tron, dans le film du m\u00eame nom<\/a>, qui se d\u00e9roule essentiellement \u00e0 l’int\u00e9rieur d’un ordinateur (costume expos\u00e9 \u00e0 la Cit\u00e9 des sciences en 2010). <\/figcaption><\/figure>\n<\/div>\n\n\n

La discussion est en cours, et les travaux d\u00e9butent \u00e0 peine, mais voici un d\u00e9but de profession de foi.<\/p>\n\n\n\n

L’Intelligence artificielle existe-t-elle ?<\/h4>\n\n\n\n

Je me dois de dire en pr\u00e9ambule que je ne fais pas un cas \u00e9norme du terme Intelligence artificielle<\/em>. Cette discipline acad\u00e9mique, \u00e0 laquelle j’ai consacr\u00e9 un livre avec Marion Montaigne2<\/a><\/sup>, est une source de malentendus puisqu’elle se confond facilement (et certains acteurs du domaine n’ont rien fait pour \u00e9viter une telle confusion) aux fictions. Je pense \u00e9videmment aux r\u00e9cits qui mettent en sc\u00e8ne des machines devenues conscientes qui se montrent plus ou moins hostiles envers leurs cr\u00e9ateurs \u2014 Hal 9000<\/a>, Colossus<\/a>, Skynet<\/a>,… \u2014, mais aussi \u00e0 des fictions sans doute plus pernicieuses comme celles que colportent les camelots de la technologie. <\/p>\n\n\n

\n
\"\"
Lib\u00e9ration<\/em>, le 28 juillet 2015<\/figcaption><\/figure>\n<\/div>\n\n\n

Quand un Elon Musk ou un Bill Gates alertent le monde sur l’imminence de l’\u00e9mergence d’une IA \u00ab\u00a0consciente\u00a0\u00bb qui, d\u00e8s son av\u00e8nement, d\u00e9cidera de supplanter l’esp\u00e8ce humaine, je doute qu’ils y croient eux-m\u00eames. En revanche ils participent \u00e0 survendre le label \u00ab\u00a0Intelligence artificielle\u00a0\u00bb, dans lequel ils investissent des milliards et cherchent \u00e0 entra\u00eener avec eux les budgets militaires ou industriels.
M\u00eame avec de bonnes intentions, on peut, sans le vouloir, provoquer ce que l’on redoute : lorsque nous lisons que des sp\u00e9cialises publient une tribune pour demander qu’on freine les recherches sur les armes autonomes, lesdits sp\u00e9cialistes lancent aux \u00c9tats du monde entier un tout autre message, que je formulerais ainsi : \u00ab\u00a0la course a commenc\u00e9 et il faut massivement investir dans le domaine\u00a0\u00bb<\/em>. Ils acc\u00e9l\u00e8rent ce qu’ils voulaient freiner.
Pire, les inqui\u00e9tudes face \u00e0 l’avenir des technologies peuvent parfois \u00eatre l’arbre qui cache la for\u00eat, car les dangers li\u00e9s au traitement automatis\u00e9 de donn\u00e9es et \u00e0 l’Intelligence artificielle existent bel et bien ici et maintenant.<\/p>\n\n\n

\n
\"\"
L’UAV \u2014 ce que l’on nome \u00ab\u00a0drone\u00a0\u00bb en France \u2014 MQ-9 Reaper<\/em>, survolant l’Afghanistan. Ce mod\u00e8le cr\u00e9\u00e9 il y a vingt ans sait d\u00e9coller et atterrir tout seul, mais ne d\u00e9cide pas encore de lui-m\u00eame sur qui envoyer ses missiles et quelles vies \u00ab\u00a0moissonner\u00a0\u00bb \u2014 puisque telle est la signification de son nom.
(Photo US Air Force \/ Commons<\/a>)<\/figcaption><\/figure>\n<\/div>\n\n\n

Lorsque le mot a \u00e9t\u00e9 invent\u00e93<\/a><\/sup>, l’objet de l’Intelligence Artificielle \u00e9tait \u00e0 la fois ambitieux et modeste : il s’agissait de r\u00e9soudre de mani\u00e8re artificielle des probl\u00e8mes que nous sommes habitu\u00e9s \u00e0 solutionner de mani\u00e8re naturelle par ce que nous nommons l’intelligence, \u00e0 savoir le raisonnement la perception et la m\u00e9moire, autant de facult\u00e9s dont, soit dit en passant, nous sommes loin de tout savoir. Un exemple familier est celui de la vision : notre cerveau parvient, au prix d’une d\u00e9pense \u00e9nerg\u00e9tique minime, sans grand effort apparent, presque instantan\u00e9ment et avec une grande fiabilit\u00e9, \u00e0 identifier de nombreuses classes d’objets dans d’innombrables conditions (position, orientation, distance, lumi\u00e8re, occultation partielle, alt\u00e9rations diverses). Nous reconnaissons une banane, un visage, une automobile, un arbre. Nous sommes capables d’identifier des cat\u00e9gories d’objet sans nous les \u00eatre fait expliquer, sans avoir assimil\u00e9 consciemment un dictionnaire visuel : si l’on am\u00e8ne devant vous un fruit, une fleur, un insecte, un oiseau, un v\u00e9hicule, un outil, vous saurez sans doute dire \u00e0 quelle classe d’objet il appartient m\u00eame si vous ne l’avez jamais crois\u00e9, et cela restera vrai jusqu’\u00e0 un certain point m\u00eame s’il a des caract\u00e8res morphologiques inhabituels ou ambigus4<\/a><\/sup>. <\/p>\n\n\n

\n
\"\"<\/a>
Distrayant et fascinant (quoique un peu r\u00e9p\u00e9titif) : le logiciel DeepDream<\/em>, par Google, recherche dans les images qu’on lui soumet des motifs qu’il a \u00e9t\u00e9 entra\u00een\u00e9 \u00e0 reconna\u00eetre, puis les applique de mani\u00e8re forc\u00e9e. Le r\u00e9sultat est une forme hallucin\u00e9e de par\u00e9idolie num\u00e9rique (cliquer pour agrandir).<\/figcaption><\/figure>\n<\/div>\n\n\n

Obtenir artificiellement une si efficace capacit\u00e9 \u00e0 identifier les formes et les choses n’a rien d’\u00e9vident et fait l’objet de recherches depuis plus de cinquante ans. Il est plut\u00f4t difficile d’expliquer comment notre propre perception fonctionne5<\/a><\/sup>. Les chercheurs en Intelligence artificielle ne se contentent pas d’imiter notre entendement ou d’y suppl\u00e9er, ils ne cessent de faire progresser, par la th\u00e9orie comme par l’exp\u00e9rimentation pratique, la connaissance que nous avons de nos propres fonctions cognitives. Ils peuvent aussi tirer parti des capacit\u00e9s propres aux ordinateurs : ainsi, la mani\u00e8re dont un ordinateur effectue une multiplication n’est pas la mani\u00e8re dont vous ou moi effectuons un calcul mental similaire.
De fa\u00e7on tr\u00e8s litt\u00e9rale, j’aime bien dire que l’\u00e9criture ou les math\u00e9matiques, qui permettent de porter vers un support artificiel des outils de notre intelligence \u2014 la m\u00e9moire, le calcul \u2014 rel\u00e8vent de l’intelligence artificielle. Inversement, nous pouvons rappeler que bien des techniques habituellement nomm\u00e9es \u00ab\u00a0Intelligence artificielle\u00a0\u00bb ne sont jamais que des outils logiciels sophistiqu\u00e9s con\u00e7us pour conf\u00e9rer \u00e0 des syst\u00e8mes informatiques une forme, tr\u00e8s limit\u00e9e, d’autonomie. Le mot est \u00e0 la mode, et beaucoup de start-ups<\/em> dont les outils rel\u00e8vent de l’informatique la plus classique affirment \u00ab\u00a0faire de l’IA\u00a0\u00bb, comme s’il s’agissait d’un art myst\u00e9rieux, une forme de magie noire dont on saupoudre plus ou moins g\u00e9n\u00e9reusement les projets informatiques.<\/p>\n\n\n

\n
\"\"<\/figure>\n<\/div>\n\n\n

Par nature, par naissance, l’Intelligence artificielle n’est pas un champ unique et coh\u00e9rent. On regroupe sous ce nom des personnes dont le travail rel\u00e8ve de la recherche scientifique et d’autres qui se situent du c\u00f4t\u00e9 de l’ing\u00e9nierie et de l’application commerciale. Des gens qui cherchent \u00e0 percer les secrets de notre cerveau, d’autres qui se passionnent pour des questions math\u00e9matiques fondamentales et d’autres encore qui veulent juste inventer un syst\u00e8me efficace pour accomplir telle t\u00e2che industrielle. Nous trouvons donc l\u00e0 des gens issus des sciences cognitives, de la psychologie, des math\u00e9matiques, de l’informatique, des scientifiques et des techniciens.
Et ne parlons pas du rapport qu’entretient ce champ \u00e0 l’imaginaire, depuis les promesses commerciales jusqu’aux fantasmes de science-fiction en passant par les questionnements philosophiques (ph\u00e9nom\u00e9nologie, morale,…) hautement sp\u00e9culatifs. Pour autant, au risque de sembler me contredire, je pense que la locution \u00ab\u00a0Intelligence artificielle\u00a0\u00bb ne veut pas rien dire : c’est bel et bien une approche particuli\u00e8re de l’informatique. Reste que l’Intelligence Artificielle n’est qu’une partie de ce qui me pr\u00e9occupe dans l’automatisation et tout ce que l’on regroupe sous le terme \u00ab\u00a0num\u00e9rique\u00a0\u00bb.<\/p>\n\n\n\n

Une p\u00e9dagogie de l’Intelligence artificielle<\/h4>\n\n\n\n

Une p\u00e9dagogie de l’Intelligence artificielle me semble indispensable, mais il faut s’entendre sur ce qu’on dit par l\u00e0. En effet, l’id\u00e9e de transformer chaque citoyen en ing\u00e9nieur, capable de programmer, capable de savoir quoi faire du code-source d’un logiciel, est une id\u00e9e assez absurde et en tout cas fort \u00e9loign\u00e9e du sens de l’Histoire de l’informatique6<\/a><\/sup>. En effet, les utilisateurs d’ordinateurs demandent et demanderont toujours plus \u00e0 pouvoir agir sans devoir \u00eatre experts : on souhaite des outils efficaces, intuitifs,… Et m\u00eame, de plus en plus, on souhaite ignorer<\/a> que les ordinateurs que l’on utilise en sont.
Mais il existe un autre niveau de connaissance des outils, qui n’est pas leur ma\u00eetrise compl\u00e8te, mais au moins une conscience de leur fonctionnement et de leurs limites.<\/p>\n\n\n

\n
\"\"
Gare Saint-Lazare, juillet 2002<\/figcaption><\/figure>\n<\/div>\n\n\n

La limite qu’il me semble important de bien comprendre, c’est qu’\u00e0 ce jour, aucune des techniques que l’on regroupe sous le nom d’intelligence artificielle n’est capable d’invention. L’Intelligence artificielle applique des r\u00e8gles ou r\u00e9p\u00e8te des actions, dans un cadre d\u00e9limit\u00e9, en fonction des principes et des donn\u00e9es qui lui sont fournies, et en poursuivant un but d\u00e9termin\u00e9. Des programmes informatiques ont certes battu les champions du monde des jeux d’\u00e9checs et de go, mais \u00e0 ce jour, jamais aucun ordinateur n’a de lui-m\u00eame ressenti l’envie de jouer \u00e0 ces jeux ni m\u00eame ne sait qu’il joue aux \u00e9checs. Au sujet de l’incapacit\u00e9 \u00e0 inventer, le chercheur Jean-Louis Dessalles7<\/a><\/sup> rappelait par exemple que sans tricher, aucun syst\u00e8me informatis\u00e9 d’apprentissage ne peut d\u00e9duire ce qui succ\u00e8de \u00e0 la suite de nombres 1-2-2-3-3-3-4-4-4-4-… Alors m\u00eame que la solution nous vient \u00e0 tous spontan\u00e9ment en une fraction de seconde.<\/p>\n\n\n

\n
\"\"<\/a>
Le match entre le champion de jeu de Go Lee Sedol, et de l’ordinateur de Google AlphaGo, en mars 2016.<\/figcaption><\/figure>\n<\/div>\n\n\n

Quelles que soient les admirables succ\u00e8s de l’Intelligence Artificielle, l’ordinateur reste une machine d\u00e9terministe, c’est \u00e0 dire qu’il n’y a rien, dans le r\u00e9sultat qu’il fournit, qui ne soit explicable, et \u00e0 param\u00e8tres strictement identiques, la r\u00e9ponse fournie sera immuablement la m\u00eame. C’est ce que l’on r\u00e9sumait autrefois par \u00ab\u00a0la machine ne se trompe jamais\u00a0\u00bb<\/em>, formule qui a \u00e9t\u00e9 la cause de bien des malentendus. Certes, des syst\u00e8mes relevant de l’Intelligence artificielle sont capables d’apprendre, et de transformer cet apprentissage en quelque chose qui ressemble \u00e0 une d\u00e9duction, et sont capables de surprendre leurs propres concepteurs8<\/a><\/sup>, certes des processus m\u00e9caniques peuvent nous vexer de par leur efficacit\u00e9 \u2014 comme lorsqu’un programme remporte toutes les parties qu’il joue contre un grand ma\u00eetre des \u00c9checs, ou lorsque des compte-rendus sportifs produits par un g\u00e9n\u00e9rateur de texte plaisent plus aux lecteurs que ceux qu’a r\u00e9dig\u00e9s un humain de chair et d’os \u2014, mais pour autant, le programme n’a jamais fait autre chose que ce que lui permettent les conditions de sa conception et les donn\u00e9es auxquelles il acc\u00e8de.<\/p>\n\n\n

\n
\"\"<\/a>
Deux universitaires discutent sur la plate-forme Zoom. Lorsqu’ils activent la fonction qui transforme l’arri\u00e8re-plan en un d\u00e9cor choisi, l’un des deux voit son visage dispara\u00eetre<\/a>…<\/figcaption><\/figure>\n<\/div>\n\n\n

Il en d\u00e9coule que toute IA est d\u00e9pendante \u00e0 la fois de sa conception, et des donn\u00e9es dont on le nourrit. Je peux donner \u00e0 ce sujet trois exemples, dont les deux premiers sont bien connus :<\/p>\n\n\n\n