Abonnez-vous Identifiez-vous

Identifiez-vous

Vos codes d'accès sont erronés, Veuillez les saisir à nouveau. Mot de passe oublié ?

IA : des labos au terrain

Le blog de Sylvain Duranton

Le bon sens, un antidote aux "Algolems" (1/3)

Publié le

Le bon sens, un antidote aux Algolems (1/3)
© Copyright 2018, Christopher Matthews, licensed via EyeEm Mobile GmbH

Dans cet article que vous pourrez découvrir en trois volets, je reviens sur les dangers de l’IA et notamment sur ceux des "Algolems", ces IA autonomes que plus personne ne contrôle. Le bon sens humain est aujourd’hui l’unique moyen de lutter contre ces dérives potentielles.     

 

AU XVIe siècle, à Prague, un rabbin fabriqua un golem pour protéger les Juifs des violences paysannes. Le golem grandit et devint immense. 

Pour lui retirer son pouvoir démesuré, le Rabbin devait effacer une inscription sur son front. Pour y parvenir, il lui demanda de défaire ses lacets afin de l’obliger à se baisser. Dans l’opération, le rabbin mourut, écrasé par le poids du Golem devenu incontrôlable.     

Cinq cents années plus tard, nous disposons de nouveaux Golems : les "Algolems". Utilisés avec pertinence, ils répondent pleinement aux défis de la vie quotidienne et des entreprises. Utilisés sans contrôle, ils peuvent conduire au chaos. Les sociétés qui utilisent l’intelligence artificielle doivent le faire avec sagesse et éviter absolument ce risque.   

L’IA a d’ores et déjà un rôle de premier plan dans de nombreuses grandes entreprises mondiales. D’après une enquête menée par le MIT et le BCG, 20% des entreprises interviewées ont recruté des équipes dédiées à l’intelligence artificielle et développent des applications d’IA à l’échelle. Ce peloton de tête va continuer de gagner en compétitivité grâce aux capacités d’auto-apprentissage de l’intelligence artificielle. Le défi pour les retardataires : combler rapidement le fossé avant qu’il ne devienne infranchissable.

Gare cependant à vouloir rattraper à marche forcée et sans discernement ces leaders de l’IA. Les risques sont immenses et en voici trois exemples : 

  •  Plusieurs acteurs de la grande distribution ont déjà été piégés par des algorithmes d’optimisation des marges qui ont augmenté massivement les tarifs des produits dans les quartiers les plus pauvres, là où la concurrence est la plus faible. Faire payer plus chers les pauvres n’est évidemment pas acceptable ! Même si ces enseignes ont fait marche arrière, le mal était fait et leur image a été sévèrement écornée. Le regard d’un directeur commercial aurait évité que cela advienne.  
  • Autre exemple : qu’en serait-il d’une enseigne de mode ayant conçu un logiciel d’IA capable d’anticiper les envies de ses clients ? Bien qu’ayant recours à des algorithmes soi-disant "non biaisés", l’entreprise se rendrait compte que le système propose des articles de mode dite ethnique aux personnes des dites communautés. Dans un tel cas, le danger pour la marque serait grand : être accusée de renforcer les stéréotypes.
  • En s’appuyant sur l’analyse par une intelligence artificielle des traitements médicaux de chacun de ses clients, un assureur santé a décidé d’indiquer des services particuliers aux personnes risquant d’être hospitalisées. Quand l’assureur a suggéré pour la première fois ses services à un échantillon, les membres de son centre d’appels ont réalisé que certains patients n’avaient pas conscience d’être susceptibles d’avoir un jour recours à certains soins. A cause de la programmation aléatoire de son algorithme, l’entreprise a donc dû expliquer à ses clients pourquoi ils se voyaient proposer des services hospitaliers dont ils ne pensaient pas avoir besoin.

Créez votre compte L’Usine Connect

Fermer
L'Usine Connect

Votre entreprise dispose d’un contrat
L’Usine Connect qui vous permet d’accéder librement à tous les contenus de L’Usine Nouvelle depuis ce poste et depuis l’extérieur.

Pour activer votre abonnement vous devez créer un compte

Créer votre Compte
Suivez-nous Suivre Usine Nouvelle sur Facebook Suivre Usine Nouvelle sur Twitter RSS Usine Nouvelle