2024
oct.
3

Compte rendu : Les IA à l’assaut du cyberespace : vers un Web synthétique

Florian Reynaud - Médiadoc N°32

Olivier Ertzscheid. Les IA à l’assaut du cyberespace : vers un Web synthétique. Caen : C&F Editions, 2024, 139 p. ISBN 978-2-37662-085-3. 18 €

Compte rendu de lecture par Florian Reynaud

Souvent là pour nourrir notre pratique professionnelle, par des publications relatives aux évolutions du numérique, les éditions C&F publient en juin 2024 le nouvel ouvrage d’Olivier Ertzscheid, consacré à l’intelligence artificielle (IA). Si le titre peut être rebutant, s’il peut faire craindre un propos rugueux, avec Les IA à l’assaut du cyberespace : vers un Web synthétique, l’ouvrage mérite largement qu’on le lise.

Olivier Ertzscheid, chercheur en Sciences de l’information et de la communication, maître de conférences à l’université de Nantes, inscrit son étude dans un nouveau paysage numérique, dans un Web qu’il qualifie donc de synthétique, un Web qui, s’il fut déjà occupé par les bots, tend selon lui à s’artificialiser encore et encore. Par l’observation de ces évolutions, son objectif est d’attirer notre attention, en quelque sorte, notamment pour ne pas perdre de vue le caractère humain et social d’un Web que tout le monde utilise.

Il s’intéresse d’abord au plus connu des robots conversationnels, ChatGPT, dont les capacités à produire des réponses peuvent être particulièrement étonnantes et sidérantes, quel que soit le prompt (nom donné à l’instruction, équivalent de la requête dans un moteur de recherche). Si l’outil suscite des craintes, notamment quand les élèves et étudiants s’en emparent pour rédiger leurs devoirs, l’auteur, parmi d’autres, rappelle les craintes suscitées en leur temps par les moteurs de recherche puis les encyclopédies collaboratives, par exemple ; ainsi défend-il l’idée d’accepter la nouvelle technologie et de l’aborder, justement, dans le cadre scolaire et universitaire. A la recherche d’une répression contre une supposée triche facilitée, avec une capacité d’ailleurs de plus en plus réduite à déceler la fraude, Olivier Ertzscheid préfère un questionnement sur les modèles d’enseignement et une prise en considération critique de ces outils.

Il revient sur les origines techniques des robots conversationnels ou LLM (pour Large Language Models), entraînés à partir de corpus importants et nombreux, avec l’aide de travailleurs et travailleuses du clic. L’entraînement, parfois spécialisé, va permettre au robot de puiser dans les corpus, selon des règles propres, avec pour finalité d’être « utile », « honnête » et « inoffensif » (avec des tests hostiles pour corriger l’IA avant de la rendre accessible au public). Olivier Ertzscheid rejette l’expression d’IA (même s’il l’intègre au titre de l’ouvrage), pour préférer celle d’agencements collectifs de production, et pour ChatGPT plus précisément d’agencement collectif d’énonciation, en faisant référence aux travaux de Deleuze et Guattari dans les années 1970 et 1980. Il n’y a de fait pas d’intelligence, mais une forme de simulation d’expertise, comme l’explique l’auteur. Toute la difficulté est d’être en capacité de valider ou non ce que nous répond le robot. Car ses informations peuvent être étonnantes, pertinentes, mais elles peuvent tout aussi facilement donner de mauvaises informations, voire s’enferrer dans l’erreur. Et ceci sans compter sur les autres biais et autres limites, que l’auteur ne fait que mentionner sans trop les détailler, qu’il s’agisse de perpétuer des stéréotypes, de manipuler des données sensibles, de reprendre de fausses informations présentes dans les corpus exploités…

Olivier Ertzscheid s’intéresse ensuite aux générateurs d’images, comme Midjourney ou DALL-E, et à ce qu’on peut obtenir d’eux selon la maîtrise des prompts et des réglages. Il y a alors le résultat basique et ce que des artistes arrivent à générer et travailler à partir des robots dans une démarche plus longue. Dans ce domaine aussi les craintes sont présentes, ainsi dans l’art, avec plusieurs autres questions et enjeux, notamment juridiques. Tout comme des auteurs, éditeurs et médias regrettent que leurs contenus soient présents dans des corpus utilisés par les robots, pour le texte produit, les photographes et médias mettent en évidence ce souci concernant l’image. Et si, pour l’heure, les productions générées par les robots ne sont pas sous droit des machines, mais tout de même avec une propriété partagée avec chaque entreprise, ou l’octroi d’un simple droit d’usage à la personne qui fait générer des images, il n’y a pas de certitudes pour l’avenir. Cela rejoint une série de longs débats à venir, selon l’auteur, sur l’influence possible de ces grosses entreprises de l’IA, dans la société.

Au-delà de sujets connus de manipulation d’images avec l’IA, que l’auteur ne mentionne pas, l’usage de l’IA en génération d’images pose la question du vrai et du faux, des intentions de production.

Les robots génératifs introduisent une nouvelle forme d’économie numérique, d’abord avec des accès payants, souvent basés sur une offre d’efficacité et de rapidité par rapport aux versions gratuites, mais aussi avec la vente de prompts pour la génération d’images, c’est-à-dire d’instructions API qui donnent des résultats précis, valorisés. Sur ce dernier point, la question des droits d’auteur se pose aussi, complexe.

Une autre question, non moins essentielle, que pose Olivier Ertzscheid, est celle des interdits, des fameux blocages imposés à la machine, la prohibition de certains mots, comme Staline ou Hitler, voire comme Macron et Obama, sous DALL-E. De quels droits ? Sur quels critères ? Ce sujet suppose-t-il une législation, une réglementation, ou doit-il être laissé à la discrétion des plateformes ? OpenAI refuse la génération d’images pornographiques, violentes ou haineuses, avec la question posée du curseur, des valeurs, dans la machine.

L’auteur reprend enfin, un peu tard peut-être, l’histoire des agents conversationnels, depuis le programme Eliza, capable dans les années 1960 de passer le test de Turing censé distinguer l’homme de la machine, jusqu’à ChatGPT et consorts, en passant par divers assistants comme Siri ou Alexa. Les nouveaux outils donnent un certain pouvoir aux entreprises qui les portent, et l’auteur revient sur les alertes lancées par Sam Altman lui-même, dirigeant d’OpenAI, et sur la pause dans le développement des IA qui fut un temps souhaitée par plusieurs scientifiques et experts. Olivier Ertzscheid propose d’autres voies qu’une pause peu probable, telles qu’obliger la divulgation du code des IA, réglementer l’usage d’IA sans données ouvertes, ou encore favoriser la conception d’une IA de type GPT-4 e, open source en Europe. Il démontre une certaine urgence à ce qu’on s’empare collectivement, publiquement, du sujet.

Pour les usagers, ce n’est pas tant la maîtrise de l’outil qu’Olivier Ertzscheid met en exergue, mais les compétences préalables à l’usage. Ainsi, pour ne reprendre qu’un exemple, ChatGPT est un assistant très efficace pour de très bons codeurs. Pour des usagers non experts, l’engouement peut vite s’épuiser. Il y a un fantasme des transformations de la société par l’IA, selon l’auteur, comme lors de l’arrivée de technologies nouvelles dans le passé, sur lequel il est nécessaire de prendre du recul. L’auteur propose une réflexion intéressante sur ce sujet, sur l’accueil de ce type d’évolutions technologiques, en l’occurrence d’assistants de cette sorte. Mais s’il questionne les fantasmes, il met tout autant en avant les changements induits par ces outils, en matière de rapport à la documentation, à l’information.

C’est aussi l’intégration de ces agents dans d’autres outils qui est questionné, par exemple dans la suite Office de Microsoft, avec des enjeux accrus concernant la protection des données personnelles, ou encore la dépendance à ce type d’outils.

Au fil de l’ouvrage, quantité de questions sont posées, parfois avec des réflexions prospectives. Plus qu’à une étude structurée dans laquelle il serait facile de retourner ensuite, c’est un essai libre que nous parcourons dans cet ouvrage, sans trop savoir où l’on va, comme dans une balade réflexive sans problématique claire. Cela n’enlève rien à l’intérêt de l’analyse, mais c’est au lecteur de s’y retrouver et d’en faire son miel selon ses connaissances préalables sur le sujet.

  • RESTEZ
    CONNECTé