On sait que corpus qui sert à entraîner les IAs va voir sa qualité s’effondrer à mesure qu’il sera nourri, de manière autophage, par un nombre croissant des données produites par des IAs…
La solution d’Elon Musk : demander au LLM Grok 3.5 de réécrire la totalité se la connaissance humaine pour en combler les lacunes et en supprimer les erreurs.
Super, mais dans le doute, ne jetez pas vos livres !
(Allianz)
Afin de célébrer les femmes dans la Résistance, et de surfer sur la vague de l’IA générative — notamment des reconstitutions historiques produites de cette manière et censées rendre l’Histoire vivante —, le service d’information gouvernemental a eu l’idée d’évoquer le parcours imaginaire d’une résistante, et d’en tirer un petit film destiné aux réseaux sociaux mais aussi au site officiel du gouvernement.
Entre l’image terne (genre URSS dans les films des années 1960), le croassement du corbeau, la résistante qui porte un brassard tricolore ; le journal clandestin qui s’appelle Clandestine (ou Clandestne ?) ; la main de l’héroïne de l’ombre qui met trois heures pour poster un tract (mais pourquoi faire ?) dans une boite-aux-lettres qui fait un bruit de déchiqueteuse ; et enfin le soldat de l’armée allemande dans le défilé à la Libération — défilé où on croit voir fugacement apparaître un drapeau japonais ! Le texte en surimpression pourrait être le prompt qui a été utilisé pour générer la vidéo…
Rien ne va.
La vidéo a été rapidement supprimée en raison d’« une » erreur (la présence de ce qui semble être un soldat allemand paradant à la Libération, donc), mais, Michaël Nathan1, du Service d’Information Gouvernementale revendique le procédé et projette de remettre en ligne une version améliorée de la vidéo : « les outils d’IA ne sont jamais utilisés seuls et chaque script est préparé et validé par des agents, ministères et spécialistes, à partir d’éléments fiables et sourcés. La traduction visuelle du script n’a en revanche pas fait l’objet d’un visionnage par ces derniers, mais la nouvelle version qui sera publiée a été vérifiée par des historiens de la Fondation de la Résistance ».
(site : news.gentside.com, le 24/02/2025)
Implacable évocation des biais de l’utilisation de l’IA dans le système judiciaire, par Diego Aranega.
(dans Le Canard enchaîné de la semaine passée, 12 février 2025)
« — Oui il y a une instrumentalisation politique, il faut le dire. Même si vous demandez aujourd’hui à l’Intelligence Artificielle son avis sur le sujet…
—Vous avez essayé ?
— Voilà j’ai essayé hier soir, je me suis dit tiens, voilà, on va voir ce qu’il en pense… Sur tous les réseaux que j’ai testé, même l’Intelligence Artificielle exprime qu’il y a une récupération et une instrumentalisation politique de l’affaire Bétharram, voilà. »
L’idée de l’ordinateur-oracle n’est pas vraiment neuve, on peut se rappeler par exemple de l’élection présidentielle de 1952 aux États-Unis. Contre tous les sondages, l’ordinateur UNIVAC I avait prédit la victoire de Dwight Eisenhower avec une certaine précision sur le network CBS. La méthode, consistant à pondérer les intentions de vote en fonction de la sociologie des électeurs, nous semble aujourd’hui banale, mais l’exactitude du résultat avait frappé l’imagination du grand public, d’autant que la description du fonctionnement de l’ordinateur comme une machine déterministe (à paramètres donnés, la réponse sera toujours la même) a souvent été entendue comme « l’ordinateur ne se trompe jamais ». On peut relier cette réputation à des sujets plus anciens que l’ordinateur (tête parlantes au Moyen-âge, automates voyants,…), et à toute une science-fiction…
Lorsque le grand public a commencé à s’équiper d’ordinateurs et a commencé à développer une familiarité avec leur fonctionnement, l’idée de la machine-qui-sait-tout a fait long-feu.
Il semble qu’elle revienne avec l’IA. Il est vrai que, comme les diseurs de bonne-aventure, chatGPT nous dit ce que nous sommes prêts à entendre.
On parle beaucoup d’IA et de droit d’auteur.
Dans le cas qui suit, pas de pillage, au contraire, l’auteur de la publication Facebook attribue à Robert Doisneau une image produite par Midjourney (ou équivalent). Mais pas sûr que le photographe du Paris populo d’après-guerre y gagne :
Le grain est suspect, et on peut s’interroger sur de nombreux détails, par exemple les tenues des femmes en arrière-plan, qui mélangent plusieurs époques (ligne 1900, tee-shirt moderne), et comme toujours, s’amuser de la bizarrerie des mains… En effet, aucune contorsion ne permet que la jeune femme de gauche oriente la main qu’elle passe sous le bras de l’autre jeune femme de cette manière. Par ailleurs, entre les deux mains de la jeune femme au haut noir, on repère des formes bizarres qui ressemblent à une série de doigts égarés…
Mais surtout, cette image ne ressemble absolument pas à une photo de Doisneau et le lieu n’a rien à voir avec la rue de Nantes à Paris…
Doisneau a effectivement intitulé une de ses photographies Une épaule rue de Nantes. Il y montre une rue en fête en 1959, d’une manière autrement plus intéressante et vivante.
En comparant les éléments (robes à rayure, ceinture, jupe blanche, haut noir, pavés, tables, on supposera que le prompt utilisé pour obtenir l’image d’en haut est une description de celle du bas.
Si je ne comprends pas bien pourquoi on voudrait faire passer une image générée pour du Doisneau (un test pour collecter les comptes de personnes faciles à abuser avec des images ?), je trouve la comparaison intéressante en ce qu’elle fait apparaître la médiocrité stéréotypée de l’image générée.
Cette image a été partagée plus de six cent fois, généralement au premier degré, et, à côté d’alertes (« C’est de l’IA, tout est faux ! »), d’innombrables commentaires louent le charme et la beauté des jeunes-femmes-d’autrefois-forgées-par-une-IA : « sublimissimes » ; « la classe » ; « ça avait de la gueule » ; « C’était notre France avant la dégradation et Invasion » (hrem) ; « Quel beau pays c’était ! » ; « Belle tenu [sic] et belle présentation l époque avec elegance« (gneuh?) ; « Le charme à la française » ; « La nostalgie m’accapare, tellement vous étiez merveilleuses mesdames » ; « ELLES SONT SUPERBES QUAND ON VOIT CES JEANS TROUES C EST ECOEURANT C EST SE MOQUER DE LA PAUVRETE » (what?) ; « En ce temps là le diable était encore dans un profond sommeil en ce qui concerne l’habillement de femmes » (okay…) ; « Voilà les grands mère qui gardaient leurs virginités jusqu’au jour de leurs mariages. Mais les filles d’aujourd’hui c’est pas la peine » (les grand-mères gardaient leur virginité !?) ; « Belles et désirables avec classe » ; … Allant jusqu’aux faux-souvenirs (« 1959 j’habitais le 19 ème ma maman était concierge d’un immeuble. J’avais alors 8 ans. sur cette belle photo c’est ps moi malheureusement photo magnifique » ; « ça me rappelle ma jeunesse » ; « C’était vraiment la belle époque merci pour ces beaux souvenirs » ; « je me retrouve dans ces jeunes filles!!! » ; « J’étais ainsi à cette époque, c’est ma génération » ; « Je me souviens. Nous étions élégantes »), et même à une forme perverse de validation par l’envie que l’image dise vrai malgré la supercherie avérée : « On s’en fou [Sic] que ce soit IA ou non les femmes étaient mieux habillées avant et mieux proportionnées bref elles cultivait [sic] l’élégance ».
À défaut de faire honneur à l’œuvre de Robert Doisneau, ce genre d’imposture nous apprend des choses sur les défauts des IAs… Et sur les biais des regardeurs.
