{"id":8823,"date":"2009-12-21T16:19:14","date_gmt":"2009-12-21T15:19:14","guid":{"rendered":"http:\/\/www.hyperbate.com\/dernier\/?p=8823"},"modified":"2009-12-21T16:19:14","modified_gmt":"2009-12-21T15:19:14","slug":"ordinateur-raciste","status":"publish","type":"post","link":"https:\/\/hyperbate.fr\/dernier\/?p=8823","title":{"rendered":"Ordinateur raciste"},"content":{"rendered":"

Dans une vid\u00e9o assez\u00a0hilarante diffus\u00e9e sur Youtube<\/a>,\u00a0\u00a0deux coll\u00e8gues (employ\u00e9s d’un magasin, apparemment) font la d\u00e9monstration du (dys)fonctionnement\u00a0d’une webcam \u00ab\u00a0intelligente\u00a0\u00bb de marque Hewlett-Packard. Con\u00e7ue pour reconna\u00eetre les visages et pour les suivre1<\/a><\/sup>, le syst\u00e8me fonctionne bien avec l’employ\u00e9e \u00ab\u00a0blanche\u00a0\u00bb mais s’interrompt brutalement chaque fois que l’employ\u00e9 \u00ab\u00a0noir\u00a0\u00bb entre dans le champ de la cam\u00e9ra. Il conclut : \u00ab\u00a0Hewlett-Packard computer are racist !\u00a0\u00bb.<\/p>\n

\"\"<\/a><\/p>\n

… Et il a bien \u00e9videmment raison.
\nCar si les ordinateurs ne sont pas racistes \u2014 ce ne sont que des machines \u2014 leur programmation, leurs fonctionnalit\u00e9s et leurs r\u00e9glages trahissent les intentions ou les \u00ab\u00a0impens\u00e9s\u00a0\u00bb de leurs concepteurs. Le programme n’a pas \u00e9t\u00e9 fait pour rechercher des personnes membres de l’esp\u00e8ce humaine mais pour n’en identifier qu’une certaine partie. J’imagine mal un projet conscient de la part de Hewlett-Packard m\u00eame s’il me semble que cette marque communique nettement moins sur la \u00ab\u00a0diversit\u00e9\u00a0\u00bb (et sur les humains en g\u00e9n\u00e9ral du reste) que ses concurrents IBM, Microsoft ou Apple. Dans le cas pr\u00e9sent, il semble surtout qu’aucun test de reconnaissance du visage par ce syst\u00e8me n’ait \u00e9t\u00e9 fait avec des noirs, ce qui laisse supposer qu’aucun employ\u00e9 de la marque en question impliqu\u00e9 dans la cr\u00e9ation de ce syst\u00e8me n’est noir car le d\u00e9faut aurait rapidement \u00e9t\u00e9 identifi\u00e9 sinon. \u00a0Cela pose sans doute en premier lieu la question de la sociologie des informaticiens, dont le recrutement, \u00e0 niveau d’\u00e9tudes \u00e9gal, donne un net avantages aux \u00ab\u00a0blancs\u00a0\u00bb, du moins aux \u00c9tats-Unis o\u00f9 ce type de statistiques existe2<\/a><\/sup> \u2014 la R\u00e9publique fran\u00e7aise ne reconna\u00eet pas les \u00ab\u00a0races\u00a0\u00bb, ce qui est tout \u00e0 son honneur, mais c’est \u00e0 double-tranchant puisque de ce fait, les statistiques qui permettraient de d\u00e9noncer une situation similaire ne sont pas disponibles.
\nLa reconnaissance faciale est une des applications \u00e0 la mode dans l’\u00e9lectronique grand public pr\u00e9sente (appareils photos) ou \u00e0 venir (consoles de jeu vid\u00e9o), je suppose que ce genre de situation devrait se poser \u00e0 nouveau.<\/p>\n

Au cours des Entretiens du Nouveau monde industriel, Adam Greenfield (de Nokia, auteur de Everyware : La r\u00e9volution de l’ubim\u00e9dia<\/em><\/a>\"\"<\/em>) a \u00e9voqu\u00e9 les panneaux publicitaires \u00ab\u00a0intelligents\u00a0\u00bb (capables de surveiller leurs spectateurs) install\u00e9s \u00e0 New York par une soci\u00e9t\u00e9 fran\u00e7aise (le syst\u00e8me Num\u00e9riflash<\/a> de la soci\u00e9t\u00e9 Majority Report3<\/a><\/sup> ou le syst\u00e8me concurrent de la soci\u00e9t\u00e9 Qividi\u00a0?) \u00e9taient d’ores et d\u00e9j\u00e0 con\u00e7us pour identifier non les individus mais les groupes sociaux, culturels ou\u00a0ethniques\u00a0(\u00ab\u00a0femme asiatique d’une quarantaine d’ann\u00e9es\u00a0\u00bb, etc.) \u00e0 fins de collecte statistique ou de ciblage publicitaire. On peut par exemple imaginer que le syst\u00e8me d\u00e9couvrira que les gens qui regardent des publicit\u00e9s \u00e0 cinq heures du matin appartiennent en majorit\u00e9 \u00e0 tel groupe ethnique, ce qui permettra par exemple de ne leur proposer que certaines publicit\u00e9s. On peut en concevoir l’utilit\u00e9 : les grandes marques de cosm\u00e9tiques ont par exemple des gammes de produits diff\u00e9rentes selon qu’elles s’adressent \u00e0 leur client\u00e8le d’origine asiatique, africaine ou europ\u00e9enne et on imagine sans difficult\u00e9 l’int\u00e9r\u00eat qu’elles pourraient retirer d’un syst\u00e8me interactif de ce genre.<\/p>\n

\"\"

Le syst\u00e8me Quividi<\/p><\/div>\n

Lorsqu’un tel projet sera r\u00e9alis\u00e9 \u00e0 grande \u00e9chelle, il y aura bien l\u00e0 une forme de s\u00e9gr\u00e9gation (sociale plus que pr\u00e9cis\u00e9ment raciste) dans le traitement informatique des individus, puisqu’\u00e0 l’int\u00e9rieur d’un m\u00eame espace urbain, nous seront enferm\u00e9s dans des clich\u00e9s socio-culturels. La ville r\u00e9agira (en termes d’offre de services, d’informations et de droits d’acc\u00e8s) \u00e0 notre pr\u00e9sence\u00a0selon ce que notre apparence physique, nos v\u00eatements et nos trajets lui enseigneront. La ville se configurera diff\u00e9remment pour nous selon qu’elle nous aura identifi\u00e9 au petit matin comme une femme de m\u00e9nage en route pour pr\u00e9parer les bureaux d’une entreprise, un f\u00eatard qui rentre se coucher, un travailleur sans papiers qui attend qu’on l’emm\u00e8ne sur un chantier ou un agent de s\u00e9curit\u00e9 qui commence sa journ\u00e9e.<\/p>\n

Il serait na\u00eff d’imaginer que les personnes appartenant aux groupes que je mentionne vivent v\u00e9ritablement dans la m\u00eame ville en m\u00eame temps4<\/a><\/sup> : leurs trajets, leurs lieux, leur rythme et tout leur usage de la ville sont sans doute d\u00e9j\u00e0 bien diff\u00e9rents. Mais ce syst\u00e8me, par son caract\u00e8re discret, renforcera encore un peu plus les murs invisibles qui s\u00e9parent les membres de groupes sociaux distincts \u2014\u00a0tout en donnant \u00e0 chacun l’illusion confortable d’\u00eatre pris en compte pour ce qu’il est \u2014\u00a0ou ce que l’on a r\u00e9ussi \u00e0 lui faire croire qu’il est.<\/p>\n

(mise \u00e0 jour du 22\/12) La soci\u00e9t\u00e9 Hewlett-Packard a fait savoir<\/a> qu’elle prenait l’affaire de la \u00ab\u00a0webcam raciste\u00a0\u00bb tr\u00e8s au s\u00e9rieux, tout en se d\u00e9faussant un peu, expliquant que l’algorithme de reconnaissance des visages fonctionnait mal dans de mauvaises conditions d’\u00e9clairage et de contraste<\/em>.<\/p>\n

  1. On utilise le mot \u00ab\u00a0tracking\u00a0\u00bb pour parler de l’identification et de la poursuite d’un objet par un syst\u00e8me informatique. Ce mot a la m\u00eame origine \u00e9tymologique que les mots fran\u00e7ais \u00ab\u00a0trace\u00a0\u00bb ou \u00ab\u00a0traque\u00a0\u00bb. [↩<\/a>]<\/span><\/li>
  2. Voir notamment les publications de la Coalition to diversify computing<\/a><\/em> de la\u00a0Computer Research Association<\/em>. [↩<\/a>]<\/span><\/li>
  3. Nom choisi en hommage au film Minority Report<\/em> \u00e9videmment, o\u00f9 les publicit\u00e9s personnalisent leurs messages en fonction de l’identification qu’il font des passants. [↩<\/a>]<\/span><\/li>
  4. Le probl\u00e8me est le m\u00eame sur Internet du reste : malgr\u00e9 les apparences, le r\u00e9seau n’est pas le m\u00eame selon les personnes et les fronti\u00e8res g\u00e9ographiques et politiques y ont un poids bien plus important que nous ne le supposons d’instinct. [↩<\/a>]<\/span><\/li><\/ol>","protected":false},"excerpt":{"rendered":"

    Dans une vid\u00e9o assez\u00a0hilarante diffus\u00e9e sur Youtube,\u00a0\u00a0deux coll\u00e8gues (employ\u00e9s d’un magasin, apparemment) font la d\u00e9monstration du (dys)fonctionnement\u00a0d’une webcam \u00ab\u00a0intelligente\u00a0\u00bb de marque Hewlett-Packard. Con\u00e7ue pour reconna\u00eetre les visages et pour les suivre1, le syst\u00e8me fonctionne bien avec l’employ\u00e9e \u00ab\u00a0blanche\u00a0\u00bb mais s’interrompt brutalement chaque fois que l’employ\u00e9 \u00ab\u00a0noir\u00a0\u00bb entre dans le champ de la cam\u00e9ra. Il conclut […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[17,37],"tags":[],"class_list":["post-8823","post","type-post","status-publish","format-standard","hentry","category-filmer-autrement","category-parano"],"_links":{"self":[{"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=\/wp\/v2\/posts\/8823","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=8823"}],"version-history":[{"count":0,"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=\/wp\/v2\/posts\/8823\/revisions"}],"wp:attachment":[{"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=8823"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=8823"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/hyperbate.fr\/dernier\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=8823"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}