Qu'attendre de l'intelligence artificielle, pendant et après la crise du COVID-19 ?

Dès que la pandémie coronavirus s'est développée, plusieurs start-ups et laboratoires dans le monde ont annoncé la découverte de sources de traitement potentiels, grâce à l'IA (Intelligence Artificielle) ([1]).

L'IA va-t-elle ici aussi 'changer la donne', comme déjà proclamé dans de nombreuses industries ?

S'il est encore trop tôt pour se prononcer ([2]), prenons l'occasion pour essayer de comprendre précisement l'impact de l'IA sur les entreprises, en situation 'normale' ou de crise, et ce que cela implique pour les Dirigeants.

Rappelons tout d'abord que le mot IA, très médiatisé, est parfois un terme 'fourre-tout' qui recouvre des réalités diverses, de la digitalisation des processus à la robotique en passant par les plateformes en ligne ou de marché.

Ce qui fait aujourd'hui la spécificité de l'IA est en fait l'Apprentissage Automatique/ Profond - en Anglais Machine Learning/Deep Learning (ML/DL) -, à savoir la capacité pour des ordinateurs à effectuer des taches et résoudre des problèmes sans être explicitement programmés pour chacun d'entre eux, mais en 'apprenant' de façon autonome par des approches mathématiques et statistiques ([3]).

Telle qu'ainsi définie, l'IA est à aujourd'hui utilisée dans des cas d'usage divers, au stade encore souvent de pilote, et dans de nombreuses industries, qui vont, sans vouloir être exhaustif, de la finance (gestion de portefeuille, détection de fraudes, cybersécurité) à la santé (prévention avancée, assistance chirurgicale, détection radiologique) en passant par l'éducation (enseignement personnalisé) ou l'automobile (véhicule autonome).

Essayons de repérer dans ce foisonnement médiatique quelques fondamentaux. Pour cela, deux exemples de situations de crises potentielles

24 Aout 2012 : le jour où Amazon nous a promis de nous livrer avant même que nous ayons à y penser.

Cette utilisation de l'IA n'est pas que de l'ordre de la science-fiction, puisque Amazon a déjà déposé un brevet relatif à l'achat prédictif ([4]). La proposition de valeur du commerçant changerait ainsi radicalement, de la traditionnelle Commande/Livraison à une pré Livraison/Achat.

Ce cas d'usage repose sur l'apport clé du ML/DL, à savoir la capacité à reconnaitre objets et formes (par exemple visages sur une surveillance video) et plus largement corrélations entre données numérisées. Ceci permet alors de repérer des 'patterns' (en Anglais), des 'patrons' (en Français) - au sens de la couture, à savoir une ligne directrice réutilisable. Dans le cas d'Amazon, le besoin de produits en fonction d'un historique d'achat, de caractéristiques de produits et d'autres variables identifiées à partir de la base client d'Amazon.

Les capacités avancées de reconnaissance de 'patterns' du ML/DL permettent à la fois le diagnostic (quelle est la probabilité que cette série de taches sur une radio soit un mélanome ?), la prédiction de futures actions (qu'elle serait l'action du conducteur humain dans les circonstances particulières où se trouve la voiture ?) ou de futurs états (quel est le planning optimal du personnel volant et des avions pour les jours à venir ?).

Cette capacité nouvelle à générer de la prédiction relativement à extrêmement fiable est en fait le changement clé qu'apporte le ML/DL aux entreprises.

IA et prédiction fiable : Quelles conséquences pour les Dirigeants ?

D'un côté, mieux prédire aide à mieux prendre les décisions.

De l'autre, toute activité basée sur la prédiction, que cette activité soit elle même très prédictible ou basée sur un 'savoir-faire' technique, implicite ou explicite, est susceptible d'être remplacée par un algorithme prédictif d'IA, pour une partie plus ou moins significative.

A commencer par les travaux physiques en environnement 'stable', avec des robots ayant 'appris' à répéter les actions d'un travailleur humain ([5]). Puis les activités centrées sur l'acquisition et le traitement d'informations - qu'il s'agisse du montage de dossiers de crédit dans une institution financière, des réponses en ligne d'un site Internet ou de la phase de diagnostic d'un artisan ([6]).

De nouveaux entrants utilisant nativement l'IA ou des concurrents la déployant massivement peuvent représenter alors de réelles menaces pour l'entreprise.

Le Dirigeant doit donc effectuer un travail de réflexion stratégique classique :

• Où est ce que la prédiction fiable est-elle un avantage compétitif dans mes activités (ou un handicap si elle n'est pas utilisée) ?
• Où dois-je mettre en place dans mes processus métiers et fonctions support des capacités de prédiction fiable ?

La question suivante, soulevée par certains, est de savoir si l'IA va décider à la place de l'homme ([7]) ?
Une deuxième mise en situation pour aider à nuancer le propos.

26 Septembre 1983 : le jour où des missiles nucléaires Américains ont été lancés sur l'URSS.

Une date où donc l'humanité est potentiellement passée très prêt d'une guerre nucléaire.
En effet le centre de défense stratégique antimissiles soviétique a reçu ce jour-là d'un satellite de surveillance avancée au-dessus des USA une alerte, confirmée à 100%, relative au lancement de missiles intercontinentaux. Les tensions étaient alors très fortes entre les USA et l'URSS ([8]) et une telle menace d'attaque imminente aurait dù entrainer la riposte quasi automatique de l'URSS.
Mais le Colonel de garde Stanislav Petrov a jugé qu'il ne fallait rien transmettre à sa hiérarchie, car, d'après lui, il s'agissait d'une erreur technique. Ce qui a été effectivement confirmé ultérieurement.

Que nous révèle cette crise ?

Que prédiction n'équivaut pas à discernement et jugement.

Ceci vaut aussi dans le cas de l'IA. En effet, l'apprentissage ML/DL est dépendant de la qualité et de la profondeur des données avec lesquelles il s'effectue ([9]).

De plus les données digitales ne reflètent pas facilement les informations qualitatives et subjectives, notamment celles liées à la culture de l'organisation et de ses valeurs

A titre d'exemple, le GPS du taxi, même de dernière génération, ne peut pas encore répondre à la demande: 'Emmenez-moi à la boite de nuit Parisienne préférée de Neymar' ([10]), alors que le chauffeur le peut probablement.

Enfin, et plus fondamentalement, l'IA reconnait des 'patterns' et prédit uniquement en fonction d'un objectif clair qui lui est donné. Les objectifs multiples, difficiles à décrire ou sujets à interprétation, ne sont pas atteignables par l'IA aujourd'hui ([11]).

Au total le jugement humain reste nécessaire vis à vis des prédictions de l'IA.

Notamment dans les situations sans précédent certain - par exemple d'émergence de l'innovation - ou les situations demandant de l'intelligence émotionnelle et contextuelle, en face d'un client ou d'un usager - un cas classique étant la finalisation et la communication d'un diagnostic médical à un patient.

IA et jugement humain : Quelles conséquences pour les Dirigeants ?

D'un côté, les activités avec une forte composante relationnelle, comme gérer et développer des collaborateurs ou gérer les parties prenantes - équipiers, clients, usagers -, ne seront pas prise en charge par l'IA, tant qu'elle n'intégrera pas le non-dit, le culturel et l'affectif dans sa prédiction. De même pour les travaux physiques et manuels en environnement 'ouvert' - non prédéfini et changeant ([12])

De l'autre, l'IA rend la prédiction plus accessible à de nombreuses fonctions dans l'entreprise et la décentralise.
Les besoins en capacités de discernement et de jugement vont alors se trouver renforcés à tous les niveaux de l'entreprise. L'enjeu est de pouvoir définir les bons objectifs pour l'IA, de savoir en interpréter les résultats et d'en contrôler la pertinence.

Enfin un outil d'IA peut se retrouver hors des conditions d'utilisation pour lesquelles il a été initialisé.
Dans ce cas, il faut pouvoir 'reprendre la main'. De ce point de vue, déléguer entièrement à l'outil les décisions au quotidien risque une perte de compétences dangereuse en cas de crise ([13])

Deux questions clés se posent donc au Dirigeant quand il veut déployer l'IA au sein de son entreprise :

• Quel niveau de décentralisation des décisions accepter ? ([14])
• Comment faire monter en compétences les équipes en matière de discernement et de jugement ?

“Il faut que tout change pour que rien ne change”

Pourquoi terminer cet article par cette citation extraite du livre 'Le guépard' de Giuseppe di Lampedusa ?

Parce que l'arrivée du ML/DL ne change pas les fondamentaux de la gestion de crise et de l'après crise.

Il y a les Connus Connus – notre savoir, pour faire face.

Il y a les Inconnus qui sont Connus – ce à quoi nous ne savons pas encore répondre, alors que la question est identifiée – par exemple quelle substance va permettre un vaccin contre le Coronavirus ?

L'IA peut dans ce cas jouer un rôle important.

Il y a aussi les Inconnus Inconnus – les circonstances non prédictibles – par exemple, lors de la construction de deux gratte ciels dans une ville américaine, prendre en compte la possibilité d'une collision quasi simultanée de deux avions avec ces tours.

A question non posée, l'IA ne peut apporter une réponse.

Il y a enfin les Connus Inconnus – les faits qui sont connus mais dont la signification n'est pas correctement appréciée. Une pandémie avec un fort taux de contagion et une léthalité faible, comme Covid-19, a peut-être bien fait partie, pour une certaine période et dans certains pays, des Connus Inconnus.

Dans ces conditions, il est probable qu'aucun outil IA n'aurait pu, au-delà d'une possible prédiction sur l'évolution ultérieure de la pandémie, 'emporter la décision' en matière de politique publique.

Au total, le déploiement de l'IA aura bien un impact majeur pour toute activité basée sur la prédiction, y compris en situation de crise.

Cela étant, la capacité de discernement et de jugement du décideur restera clé, pour 'peser' la décision et, si nécessaire, 'reprendre la main'.

Philippe Ginier-Gillet  //  philippe.ginier-gillet@in-flexion.com  //  https://www.linkedin.com/in/philippe-ginier-gillet-67bb5/

Télécharger la Lettre de XMP-Consult n°7 (avril 2020) en .PDF

Les propos tenus dans ce texte n'engagent que son auteur et ne représentent pas un avis officiel de l'association XMP-Consult.

[1] Au-delà de la recherche d'un traitement, l'IA devrait de plus contribuer significativement au partage de la connaissance du virus, à l'observation et la prédiction de l’évolution de la pandémie, à l'assistance aux personnels soignants, et aussi comme outil de contrôle de la population.
Un premier aperçu d'articles des médias et d'autres sources publiques disponibles a ainsi été réalisé par le secrétariat du Comité ad hoc sur l’intelligence artificielle (CAHAI) et le Conseil de l'Europe [Lien: https://www.coe.int/fr/web/artificial-intelligence/ai-and-control-of-covid-19-coronavirus ], avec notamment le rappel de la nécessité d'évaluer l'usage de l'IA à la sortie de la crise

[2] De toute façon les tests, l'homologation et la montée en puissance d'éventuels traitements ou vaccins demandent que de gros acteurs du monde de la santé prennent le relais des startups

[3] Notons que ML/DL est en fait le 3ème 'été' de l'IA, qui a déjà connu depuis son démarrage en 1956 deux 'étés' et deux 'hivers' (périodes de désillusion par rapport aux promesses d'été). D'où notre prise de recul par rapport aux promesses de l'IA

[4] US 8615473 - 'Method and system for anticipatory package shipping', brevet délivré en Décembre 2013,

[5] A titre d'exemple médiatique, le Burger Robot de la start up Creator, qui prépare de façon autonome un hamburger pour $6 pièce

[6] Notons que cela ne signifie pas inéluctablement la disparition du poste de travail.l
Parce que celui-ci comporte quasi ment toujours d'autres activités non substituables (citons les interactions avec les collègues, des collaborateurs, les clients ou les usagers). Et que l'étude d'impact économique, au-delà de la faisabilité technique, peut identifier des couts de migration élevés, une moindre attractivité couts/performance de la technologie, et des barrières fortes, légales et sociétales, à la mise en oeuvre de l'outil IA.

[7] Ce qui serait à terme le cas si une une IA dite 'forte' émerge

[8] Un avion de la Korean Airlines avait été abattu trois semaines auparavant par des chasseurs soviétiques

[9] Dans la crise USA/URSS , les données du satellite d'alerte n'étaient pas croisées avec les données de satellites géostationnaires, ce qui aurait mis en évidence un cas rare de réflection de rayons solaires à travers des nuages à haute altitude, ce aue le satellite de surveillance a confondu avec des traces de missile

[10] Le très médiatisé joueur de football du Paris Saint Germain

[11] Dans la crise USA/URSS, au delà de l'objectif 'reconnaitre un éclat de lumière cohérent avec la trajectoire d'un missile', Petrov avait d'autres objectifs , comme 'cohérence avec ce qui est connu de la doctrine militaire d'attaque des USA' (nombre de missiles détectés) ou 'fiabilité estimée du système de détection'

[12] Par exemple les travaux forestiers, le nettoyage d'espace public ou  une partie des travaux de  construction

[13] A titre extême d'illustration, la perte de compétences en matière de pilotage manuel a été identifiée comme étant dramatique lors du crach du vol Air France 447 Rio de Janeiro Paris, lorsque les sondes et systèmes ont commencé à envoyer des informations erronées

[14] De façon révélatrice, Petrov fut plus tard sanctionné, non pas pour sa décision, mais pour ne pas avoir documenté l'incident dans le rapport d'activités de sa base militaire