La revue Planète et la cybernétique (4)
août 14th, 2010 Posted in La revue Planète, Lecture, SciencesJe continue mon exploration systématique de la revue Planète, en quête d’articles se rapportant à la cybernétique et à l’informatique.
Planète n°29 juillet-août 1966, pp106-113.
Le dossier du robot, débat mené par Michel Francet.
Le sous-titre de l’article est superbe : Qui prendra les décisions dans les sociétés des années à venir : l’être humain, ou le cerveau électronique ?
L’introduction nous rappelle l’importance croissante de l’informatique : « Dans des domaines de plus en plus nombreux, de l’économie à la stratégie, l’homme s’adresse à des calculateurs électroniques pour résoudre les problèmes qui se posent à lui. Il fournit les données ; il attend d’un monstre d’acier les réponses ». La question posée ensuite est de savoir si tout cela peut nous échapper et, le cas échéant, quelles en seraient les conséquences morales et philosophiques.
Les intervenants du débat sont André Amar, professeur de philosophie à Sciences-Po ; Jean Barets, ingénieur conseil et directeur du club « technique et démocratie » ; Jacques Bergier, co-directeur de Planète ; Georges Elgozy, qui dirigeait la commission de l’automation dans le cadre du 5e plan quinquennal français (1966-1970) ; Pierre Parfonry, chef du service de presse chez IBM.
L’auteur de l’article effectue des aller-retour entre deux idées. D’une part, il évoque le fantasme de l’ordinateur despote dont l’intelligence sans limites est au ser vice d’une pensée inhumaine. En contrepoint, il tente de rassurer, de défaire le mythe et de rappeler que les machines ne sont rien de plus que des machines.
Seulement voilà : si le discours explicite se veut rationnel, le choix du vocabulaire et les explications techniques hasardeuses semblent constamment le contredire. L’ordinateur se voit par exemple comparé à un objet de contrôle et à un objet de mort : « Jusqu’à maintenant, deux machines seulement donnaient des ordres aux hommes : le feu rouge et la chaise électrique. Il va y en avoir beaucoup d’autres ». Les ordinateurs sont des « génies tout-puissants, sinon malfaisants, du moins implacables », des « monstres », et l’on est en droit de se demander, dit l’auteur, si nous n’entrons pas en « mécanocratie ».
Dans une description anatomique très étrange, on nous explique que le général MacNamara, qui a eu un certain rôle dans l’informatisation de l’armée américaine, est réputé ‘avoir « un cerveau électronique à la place du cœur ».
Malgré le choix des termes, l’auteur affirme que nous sommes victimes d’une vision passéiste, de « vieille science-fiction », lorsque nous imaginons que « À recenser les réalités actuelles et à rêver à celles de demain, on croit entendre comme un cliquetis permanent électrique et mécanique qui rythmerait la vie d’une humanité transformée en un docile troupeau d’esclaves ».
À l’époque, selon l’article, il existe 27 000 ordinateurs dans le monde non-communiste, ce qui semble alors considérable. « Des indices nombreux trahissent cette nouvelle approche du problème, cette nouvelle manière de considérer les monstres électroniques, cette démystification des ordinateurs. Par exemple, une nouvelle revue vient de paraître en France. Elle s’appelle « “Zéro-un-informatique” ».
L’auteur, qui n’a visiblement pas bien compris les explications qui lui ont été faites, distingue trois types de machines :
- les ordinateurs digitaux, qui « ne sont pas et ne seront jamais intelligents ».
- les ordinateurs analogiques, à l’intérieur desquels « on crée un univers et on le fait évoluer » (?).
- les ordinateurs homéostatiques, qui sont doués d’organes sensitifs, qui n’obéissent pas à un programme et qui « font pour le mieux » (?).
Deux pistes pour le futur sont évoquées :
- les travaux du neurologue et cybernéticien William Ross Ashby, qui voulait mettre au point un « amplificateur d’intelligence » au sujet duquel Jacques Bergier se demande comment on saura qu’il fonctionne, « puisque cette machine est par définition plus intelligente que nous ».
- l’opinion de l’académicien soviétique Kolgonoroff (s’agit-il du mathématicien Kolmogorov ?) qui affirme que l’ordinateur pensant est pour demain et qui se réjouit à l’idée que « nous aurons bientôt des véritables frères pouvant comme nous, raisonner »… et accessoirement gérer un jour toute l’économie de l’URSS.
Le philosophe André Amar s’inquiète surtout pour l’influence qu’auront sur nous les langages « logiques » des ordinateurs : en façonnant notre esprit, ne rejetteront-ils pas dans l’ombre des modes de pensée plus profonds et plus rigoureux ? Michel Francet pense lui aussi que l’homme va devoir s’adapter à l’ordinateur plutôt que le contraire, du moins dans un premier temps : « Dans l’immédiat il parait évident que l’ordinateur va avoir une influence sur le cerveau humain. La machine va refaçonner l’homme ». Ce qui est un problème, si l’on accepte de le suivre lorsqu’il affirme que « Le facteur humain gène le fonctionnement des machines ».
Pour conclure, l’auteur nous rappelle que c’est à l’homme d’être humain, et que les sentiments (positifs ou négatifs) échapperont toujours à la machine, or ce sont ces sentiments qui ont construit l’histoire de l’humanité et qui révèlent les finalités de l’homme.
On perçoit dans cette profession de foi finale un besoin de se rassurer soi-même face à des machines qui ont la réputation de pouvoir égaler l’homme dans ce qui faisait sa fierté : son intelligence.
6 Responses to “La revue Planète et la cybernétique (4)”
By Yoann Moreau on Août 15, 2010
Merci Jean-No. Dans Dune, Franck Herbert, explique pourquoi, dans le futur, l’humanité qu’il a imaginée, a cessé de développer les intelligences artificielles. C’est selon lui, que l’humain, en réfléchissant la fabrication des machines, développait une manière de penser qui, peu à peu, le rapprochait de la machine. Autrement dit, la question de savoir si un jour des AI existerait, ne pouvait s’évaluer à l’aune de la forme d’intelligence contemporaine. En fait, l’homme et la machine se rapprochent l’un de l’autre, de telle sorte que c’est un double mouvement : la machine se complexifie tandis que l’humain se mécanise dans son fonctionnement (de penser). L’AI du film de Spielberg, ou les cyborgs de Blade Runner, c’est-à-dire des machines devenues similaires à l’homme d’aujourd’hui, font l’impasse sur cette transformation de l’homme qui réfléchit le machinal et qui coexiste avec le mécanique. Je rejoins donc, en ce sens, avec Herbert, Amar et Francet (merci pour ces références!) cette transformation simultanée : le devenir machine de l’homme est coextensif d’une modélisation anthropomorphe des machines liée à une recherche d’ergonomie (adapter les machines en fonction du corps et de la cognition humaine) de ces dernières…
By Jean-no on Août 15, 2010
Franck Herbert a écrit un cycle assez barré sur la question de l’intelligence artificielle, au fait : L’Effet Lazare, L’incident Jésus
et Destination : Vide. Des gens sont placés dans un vaisseau plus ou moins en détresse où leur seul moyen de s’en sortir est de mettre au point une intelligence artificielle consciente… Très bizarre, j’ai beaucoup de mal à finir le premier tome en fait.
By Yoann Moreau on Août 15, 2010
pas lu ceux là.. dis donc je relis mon commentaire, c’est pas de la tarte non plus, heureusement que j’en ai fait qu’un tome ! Tu bosses pour Amazone pendant l’été ?
By Jean-no on Août 15, 2010
Je mets toujours des liens Amazon pour les livres (exclusivement), ça me fait gagner un fric monstre, presque un euro par mois :-)
By jyrille on Août 21, 2010
Tiens, dans L’Effet Lazare, on nous parle d’une planète Pandore et d’un varech intelligent nommé Avata…
By AlexMoatt on Déc 21, 2014
André Amar intervient très souvent dans les colonnes de Planète.