Abonnez-vous Identifiez-vous

Identifiez-vous

Vos codes d'accès sont erronés, Veuillez les saisir à nouveau. Mot de passe oublié ?

IA : des labos au terrain

Le blog de Sylvain Duranton

L’IA est–elle éthique ?

Publié le

L’IA est–elle éthique ?
© Iyad Rahwan

Quelle éthique pour l’IA ? La question est de plus en plus au cœur des débats et c’est une excellente chose. Cette question occupe même un chapitre entier  – le cinquième- du rapport Villani "Donner un sens à l’intelligence artificielle" paru en mars. Dans la Sillicon Valley, le sujet divise et des personnalités comme Elon Musk tirent la sonnette d’alarme : "Je travaille sur des formes très avancées d'intelligence artificielle, et je pense qu'on devrait tous s'inquiéter de ses progrès."  

J’ai sur le sujet une position claire : l’éthique est le talon d’Achille de l’IA. Je ne parle pas ici des risques qui entourent  les algos malveillants. Le sujet a beau agiter certains esprits et faire poindre l'idée, dans un contexte très français, de créer des équipes d'inspecteurs d'algorithmes assermentés, il est en réalité tout à fait secondaire. 

Le vrai sujet est d'éviter les situations où des algorithmes, dont les concepteurs sont bien intentionnés, ont des schémas de décision qui dans certains cas limites, ne sont pas acceptables. Aux Etats-Unis, des algorithmes ont ainsi défrayé la chronique. Des moteurs de tarification conçus pour maximiser les marges de chaînes de distribution ont fini par pratiquer des prix plus élevées dans les zones défavorisées. Le phénomène est en fait prévisible puisque dans ces zones, les clients réagissent moins aux hausses de prix par manque d'alternatives et d'éducation.  Evidemment, la ligne rouge a été franchie. Un directeur commercial compétent n'aurait jamais conçu une telle stratégie. 

Pour éviter ces situations, la solution est d'anticiper les cas limites, au moment de la conception des algorithmes, pour coder également des garde-fous. C'est une étape fondamentale à intégrer par toutes les entreprises dans leur méthodologie de travail sur les uses cases. La difficulté est que certaines "situations limites" sont plus difficiles à discerner. Par exemple, dans la monde de la beauté et de la mode, les algorithmes de personnalisation doivent-ils renforcer les biais ethniques ou non ? En clair, les membres d'un groupe ethniques doivent-ils recevoir des offres personnalisées avec des produits correspondant aux profils de consommation de leur groupe ethnique d'origine?  De telles offres sont-elles de nature à renforcer les stéréotypes ethniques?

Les Data Scientists et les responsables opérationnels du business sont vite démunis dans ces situations. Je crois dès lors qu'il est temps de créer un nouveau genre de CEO au sein des comités exécutifs: les Chief Ethics Officers.

De formation technique mais aussi en sciences humaines, ils accompagneront au quotidien les équipes afin d’identifier les situations limites et trouver les meilleures solutions. Chaque entreprise devra bâtir sa propre doctrine autour de la personnalisation, la tarification, la gestion des risques, des niveaux de services, des actions anti-churn… Les secteurs très sensibles, comme la banque et l'assurance, où les risques de discrimination sont majeurs, seront sûrement les premiers à bouger.

Alors que certains s’interrogent sur la disparition des emplois liés à l’IA, voilà un métier qui va apparaître !

La bonne nouvelle pour la France, c’est que avons des formations exceptionnelles en mathématiques… et que nous avons aussi de solides formations en philosophie notamment. Encore un bel atout pour la France au pays de l’IA.

Créez votre compte L’Usine Connect

Fermer
L'Usine Connect

Votre entreprise dispose d’un contrat
L’Usine Connect qui vous permet d’accéder librement à tous les contenus de L’Usine Nouvelle depuis ce poste et depuis l’extérieur.

Pour activer votre abonnement vous devez créer un compte

Créer votre Compte
Suivez-nous Suivre Usine Nouvelle sur Facebook Suivre Usine Nouvelle sur Twitter RSS Usine Nouvelle