Une révolution technologique pavée de bonnes intentions ?

Les ingénieurs se passionnent souvent pour les innovations techniques, laissant à d’autres le soin d’en évaluer les conséquences sociétales. Étant donné la magnitude des changements qu’elle apporte, la démocratisation des outils d’IA doit faire exception, afin d’anticiper l’adaptation au monde qui vient...

Bluffé par les performances de ChatGPT, Bill Gates s’enthousiasme dans un billet de blog: « Le développement de l'IA est aussi fondamental que la création du microprocesseur, de l'ordinateur personnel, de l'internet et du téléphone portable. » Grand philanthrope, il y voit une révolution positive dans le domaine de l’éducation, de la santé et, même, de manière assez peu argumentée, dans celui du changement climatique. S’il n’évacue pas complètement les risques, il affirme sa foi dans le fait qu’ils seront maîtrisés (« Les développeurs y travaillent … »). Réaliste néanmoins sur le fait que « les forces du marché ne conduiront pas naturellement les produits et services d'IA à aider les plus pauvres », il appelle de ses vœux « un financement fiable et les bonnes politiques », afin que les IA puissent être orientées vers la réduction des inégalités. Malgré les difficultés, il reste donc profondément techno-optimiste : les problèmes créés par la technologie (comme les grandes disparités de revenu entre les individus) vont être résolus par de nouvelles technologies. Une course en avant qui, au passage, se concevrait mieux dans un monde sans limites que dans un ensemble fini, et déjà bien entamé, de réserves d’énergie et de matériaux...

Les risques sont pourtant majeurs. Ils sont de trois ordres. 

1 - Le détournement d’information et les activités criminelles

Si l’on écoute Sam Altman, le jeune PDG d’OpenAI (l’entreprise créatrice de ChatGPT et de DALL-E), celui-ci confesse tout de même avoir « un peu peur » de l’IA, notamment du fait de son utilisation par des individus ou des organisations peu scrupuleuses.  Il se déclare d’abord « particulièrement inquiet » que ces modèles puissent être utilisés pour la désinformation à grande échelle. Capables de créer très rapidement de vastes quantités de matériel - textes, images, sons et vidéos, les chatbots (robots de conversation) peuvent en effet très rapidement inonder l'internet de fausses nouvelles semblant provenir de sources humaines sérieuses. A l’activité déjà inquiétante des professionnels de la manipulation de l’information s’ajoutent les activités proprement mafieuses et criminelles. Selon un spécialiste, des pirates sont déjà à l’œuvre : « Les cybercriminels s’intéressent de plus en plus à ChatGPT, car sa technologie d’intelligence artificielle sous-jacente peut rendre un pirate plus rentable. »

2 - Une perte définitive de qualité de l’information 

Et que dire de ce qui adviendra de la qualité de l’information quand les sources seront-elles-mêmes en partie constituées de produits de l’IA ? Des informations fausses se validant mutuellement apparaîtront comme vraies et sûres ; les biais et préjugés courants seront sanctuarisés (aujourd’hui chatGPT associe sans hésiter « profession médicale » à « médecin » ou à « infirmière » selon que le contexte suggère un personnage masculin ou féminin). Comme le dit la MIT Technology Review, les chatbots sont des « baratineurs notoires ». Autrement dit, ils déploient un vernis culturel qui fait bonne impression, mais la culture, dit-on, c’est ce qui reste quand on a tout oublié, et, précisément, le robot a oublié d’où vient l’information qu’il restitue. Outre la violation systématique de la propriété intellectuelle, le mélange indistinct de multiples sources par chatGPT ne permet pas la vérification des informations. C’est tout l’inverse de l’encyclopédie en ligne Wikipedia, où la citation des sources est, à juste titre, une règle absolue, qui permet le contrôle transparent et l’amélioration permanente du contenu.

3 - Des pertes d’emploi massives à très court terme

Sans surprise, les chatbots vont remplacer des salariés dans les métiers où il faut réaliser des synthèses, assembler des mots ou du code informatique, ou encore répondre à des questions en réunissant un ensemble d’informations dispersées. Voici les secteurs où ces compressions de personnel ont déjà commencé :

• les codeurs, programmeurs informatiques, ingénieurs logiciels ou analystes de données : les outils IA peuvent créer du code, par exemple un site internet complet à partir d’une description détaillée, puis le tester et le valider, et cela beaucoup plus rapidement qu’un intervenant humain. Cela pourrait se traduire par une productivité améliorée de 50%, répartie entre une baisse de l’emploi et un accroissement de l’activité pour répondre plus rapidement à la demande, le secteur étant actuellement en pénurie de main d’œuvre ;
• les métiers de la communication : ChatGPT écrit des articles, des publicités ou d’autres contenus bien plus rapidement que les humains. La société américaine de médias internet BuzzFeed a déjà boosté son cours de bourse en annonçant qu'elle utiliserait ChatGPT pour générer des contenus et le groupe de médias allemand Axel Springer a annoncé début mars le remplacement de certains employés par l’IA et des suppressions d'emplois dans les rédactions de ses journaux Bild et Die Welt. Cela touche aussi la création graphique : DALL-E, outil d'IA capable de générer des images en quelques secondes, aura également un impact lourd sur l’emploi dans ce domaine ;
• les métiers qui manipulent de grandes quantités de données structurées : le secteur juridique, la comptabilité, les analyses d'études de marché et l’analyse financière. L’automatisation des tâches pourrait s’étendre aux métiers des conseillers financiers et des traders ;
• les agents de centres d’appel et de service client (assistance, après-vente) : 25% de l’emploi pourrait disparaître dans les 5 prochaines années selon une étude réalisée en 2022 par la société de recherche technologique Gartner.
• Les enseignants ne sont pas à l’abri, ni d’ailleurs les consultants ou même les chefs d’entreprise, puisqu’une entreprise chinoise importante dans le jeu vidéo est déjà dirigée par un chatbot.

Ces métiers ne vont pas totalement disparaître, mais leurs effectifs vont fondre rapidement à l’occasion des gains de productivité acquis par le recours à l’IA. L’accompagnement humain subsistant aura pour rôle d’orienter et de contrôler tant bien que mal la production des robots, qui, encore pour un certain temps, peuvent répondre de manière incorrecte à des questions suite à des lacunes dans leur apprentissage, par exemple faute de données pertinentes sur le net, faire des erreurs mathématiques ou logiques, et produire des codages fautifs.

Que faire par rapport à ces risques ? 

Le risque de désinformation devra être combattu par de nouveaux procédés de certification de l’information, une attention redoublée devant être apportée aux sources. Les images d’une arrestation musclée de Donald Trump, générées par l’IA, ont convaincu de nombreux internautes... Ira-t-on jusqu’à une certification d’information « sans IA » comme on a aujourd’hui des aliments « sans OGM » ? Ce sera sans doute nécessaire sachant que le risque de pollution des sources elles-mêmes par des informations erronées issues de l’IA créerait un problème insoluble.

Le risque qualité fait l’objet de nombreuses démarches de normalisation et de sécurisation des résultats de l’IA, dont la présente Lettre de XMP-Consult se fait l’écho. Ces démarches seront très probablement couronnées de succès. Mais de ce fait, les contrôles humains pourront être encore allégés, ce qui  ne fait que renforcer le troisième risque, le risque social.

Un changement de société à réussir

Il y a dix ans, une étude de l'Université d'Oxford (dite étude Frey et Osborne) prédisait que 47 % des emplois américains pourraient être supprimés par l'IA au cours des vingt prochaines années. En 2018, l’OCDE estimait que 14 % des emplois avaient une probabilité d'être automatisés de 70 % ou plus, et 32% une probabilité comprise entre 50 % et 70 %, soit 210 millions d'emplois menacés au total des 32 pays étudiés. La réalité sera-t-elle pire, ou meilleure ? Elle reste bien difficile à prévoir avec exactitude mais, dans tous les cas, la magnitude des dispositifs d’adaptation à prévoir mérite dès à présent toute l’attention des politiques. Le saut quantique de productivité ne va pas juste libérer en douceur « du temps pour faire d'autres choses, au travail et à la maison » comme l’écrit sereinement Bill Gates, mais susciter en quelques années de nouvelles inégalités entre ceux qui continueront à travailler et ceux, très nombreux, qui se trouveront au chômage. Il s’agira cette fois de « cols blancs » et non plus de « cols bleus » comme dans les décennies 1970 et 1980, avec, à nouveau, des conséquences sociales et politiques majeures. Mais comme le faisait observer un ouvrage collectif sans doute prémonitoire paru en 1980, La Révolution du temps choisi, il y a déjà eu bien d’autres crises de ce genre : une dizaine de fois dans notre histoire, le système économique capitaliste a subi une crise de surproduction liée à une sous-consommation solvable, et, à chaque fois, après une forte résistance patronale et des mouvements sociaux parfois violents, une réduction du temps de travail a été acquise, sous différentes modalités (réduction de la journée, de la semaine, de l'année ou de la vie de travail). Au-delà de la mise au point d’un mécanisme pour libérer du temps de façon équitable pour tous, la question posée à la société sera en outre de permettre à chacun de vivre le temps libéré de façon riche, culturellement, socialement et peut-être aussi solidairement, dans le respect des exigences de durabilité environnementale désormais incontournables. Face à une forte réduction des temps de travail, la question du sens à la vie se substitue ainsi à celle du sens au travail.

Si, dans les prochaines dix ou vingt années, l’atterrissage de l’IA se fait dans le sens d’une société équilibrée et solidaire, cette révolution technologique aura été utile et bénéfique comme le souhaite Bill Gates. Si au contraire, cette transition se traite dans la violence concurrentielle, financière et sociale, elle n’aura été qu’une descente vers un enfer pavé de bonnes intentions.

Antoine Jaulmes

➡️ Télécharger la newsletter n°15 (juin 2023) en .PDF