Abonnez-vous Identifiez-vous

Identifiez-vous

Vos codes d'accès sont erronés, Veuillez les saisir à nouveau. Mot de passe oublié ?

"Penser l'éthique des systèmes autonomes renvoie à notre façon de voir le monde", selon Raja Chatila

,

Publié le

Entretien Directeur de l’Institut des systèmes intelligents et de robotique (Isir), Raja Chatila défend la création de standards imposant une conception éthique des systèmes autonomes.

Penser l'éthique des systèmes autonomes renvoie à notre façon de voir le monde, selon Raja Chatila
Raja Chatila, directeur de l'Institut des systèmes intelligents et de robotique.
© FONTENAT Dominique

L'Usine Nouvelle - Où en est la réflexion sur l’éthique des systèmes autonomes ?

Raja Chatila - Il y a des débats très importants sur les conséquences éthiques et sociétales de ces systèmes sur des questions comme l’emploi, les décisions algorithmiques, la protection des données personnelles et de la vie privée, les armes autonomes ou les relations affectives avec les machines. Considérons les deux premiers sujets par exemple. En matière d’emploi, il est difficile d’évaluer l’impact de ces systèmes, car, dans l’industrie comme dans les services, nous différencions mal ce qui est automatisable de ce qui ne l’est pas. Il y a une confusion entre le poste de travail et les tâches automatisables. Qu’une machine sache reconnaître un grain de beauté ne signifie pas que demain un robot remplacera le dermatologue. Réfléchir secteur par secteur pour clarifier cet impact est un premier défi. Le second renvoie aux décisions prises via les algorithmes. Prenez le récent scandale de l’admission post-bac. Il montre qu’un système déterminant pour les choix et l’avenir des humains doit être transparent et explicable. Or cette transparence et cette explicabilité ne sont pas toujours présentes dans la conception des systèmes, qui fonctionnent souvent comme des boîtes noires.

Vous plaidez pour une démarche de conception éthique des systèmes intelligents. Qu’est-ce que cela signifie ?

La question est de savoir en quoi les décisions des machines peuvent tenir compte de valeurs humaines qui sont au cœur de nos choix et de notre vie en commun. Les systèmes auxquels nous confions des décisions vont-ils ainsi exprimer des choix fondés sur la diversité, la parité ou l’égalité des chances ? Aujourd’hui, cela n’est pas programmé de manière explicite. L’agent conversationnel Tay, développé par Microsoft sur Twitter, a montré que si les données d’entrée sont biaisées, le système reproduit ces biais. Adopter une démarche de conception éthique, c’est poser dès la conception du système la question des valeurs humaines qui pourraient être touchées et inclure leur protection dans des solutions techniques.

Mais les choix renvoient parfois à des dilemmes moraux. Que doit faire une voiture autonome lors d’un accident imminent : mettre en danger la vie de piétons ou celle des passagers ?

Le problème du débat éthique est qu’il n’y a pas de solution idéale. être contre les armes autonomes parce qu’on ne veut pas déléguer le choix de vie ou de mort à une machine, c’est surtout faire un choix politique. La question éthique, elle, renvoie à une responsabilisation de ceux qui produisent les algorithmes, de l’industriel qui les commercialise et de l’utilisateur, quand celui-ci a la capacité d’influencer le comportement du système. à l’Institut des ingénieurs électriciens et électroniciens (IEEE), nous faisons des recommandations pour que les responsabilités soient bien exprimées. Nous allons aussi essayer de définir des standards qui pourront être adoptés par les industriels. Les respecter signifiera que l’industriel a suivi une méthodologie de conception qui garantit que le système respecte certaines règles et que le résultat est conforme aux normes éthiques définies dans le standard.

Faut-il craindre des différences culturelles qui limiteraient ces standards à la France ou à l’Europe ?

L’expérience passée nous dit qu’il y a deux manières de pousser les concepteurs à adopter des standards ou des comportements qui correspondent à l’intérêt général : l’obligation, qui renvoie à une décision politique gouvernementale, et le consommateur, auquel il faut expliquer que certains produits respectent des valeurs et d’autres non. Si nous voulons que chacun soit acteur et décideur de la manière dont ces techno­logies se développent, les citoyens doivent être conscients du fonctionnement et de l’impact de ces technologies et favoriser celles qui correspondent à leurs valeurs. Mais rien n’empêche qu’à l’autre bout du monde un industriel ou une communauté agisse différemment.

Est-on condamné à vivre dans un monde où il y a des utilisations éthiques et des utilisations maléfiques des systèmes autonomes ?

Très certainement. Ce débat n’est pas propre aux systèmes autonomes mais il est ici prégnant, car ces technologies sont très diffusives. Avec un couteau, je peux couper le beurre et tartiner mon pain le matin ou je peux tuer quelqu’un. Le problème avec un système autonome est que l’impact est très diffus. C’est pour cela qu’il est important d’en parler, de sortir de la fascination et de la peur, d’expliciter ces technologies au plus grand nombre.

Penser l’éthique des systèmes autonomes ne demande-t-il pas de penser l’apport de la machine au bien-être des hommes ? 

Réfléchir sur l’éthique des systèmes autonomes renvoie à notre façon de voir le monde. étant donné leur impact sur notre vie quotidienne, ces technologies questionnent notre économie et nous font prendre conscience des limites d’un indicateur comme le produit intérieur brut (PIB). Il faut considérer la croissance en prenant en compte le déploiement des richesses économiques et leur influence sur le bien-être, défini par l’OCDE à travers onze paramètres comme l’éducation, le logement, les interactions sociales ou l’implication civique. En mesurant les choses différemment, nous pouvons appréhender, évaluer et donc décider autrement de nos modes de production. S’interroger sur l’éthique des systèmes autonomes, c’est se demander dans quelle mesure il faut respecter des valeurs humaines plutôt que la productivité à outrance.

Comment interprétez-vous le cynisme des géants de la Silicon Valley qui disent avoir inventé une machine à décerveler les gens et font tout pour en protéger leurs enfants ?

Je ne sais pas s’il faut leur faire confiance. Vendre un produit néfaste et dire qu’on s’intéresse au remède permet de gagner à tous les coups. Fondamentalement, ils ne vont pas aller contre leurs intérêts sauf si ce discours leur rapporte quelque chose. Mais ils devraient réagir aux attitudes des citoyens qui doivent absolument s’emparer de ces sujets-là. C’est plus important que la réaction des gouvernements, qui se trouvent parfois dans l’impossibilité d’imposer des choses puisque moins puissants économiquement que ces entreprises.

Croyez-vous en la capacité de l’Europe à imposer une éthique de l’IA ?

Si l’Europe parle d’une seule voix et défend ses valeurs communes, elle peut donner l’exemple, jouer un rôle de leadership. La COP 21 est un bon exemple qui montre ce que l’on peut faire. Notre culture et notre tradition éthique peuvent nous permettre d’avancer dans la bonne direction. Il y a des initiatives dans ce sens qu’il faudra faire progresser. 

EN QUELQUES DATES

1969 Ce Syrien arrive en France après son baccalauréat

1981 Soutenance de sa thèse sur les systèmes de navigation d’un robot mobile au laboratoire d’analyse et d’architecture des systèmes du CNRS, à Toulouse.

1983 Recrutement au Laas qu’il dirigera de 2007 à 2010.

2011 Départ pour Paris et l’Institut des systèmes intelligents et de robotique (Sorbonne Université et CNRS), dont il prend la direction en 2014.

2014 Publication par l’Initiative de l’IEEE sur les systèmes autonomes et intelligents, présidée par Raja Chatila, de « Conception orientée éthique ». La troisième version du texte est attendue pour 2019.

 

Réagir à cet article

Créez votre compte L’Usine Connect

Fermer
L'Usine Connect

Votre entreprise dispose d’un contrat
L’Usine Connect qui vous permet d’accéder librement à tous les contenus de L’Usine Nouvelle depuis ce poste et depuis l’extérieur.

Pour activer votre abonnement vous devez créer un compte

Créer votre Compte
Suivez-nous Suivre Usine Nouvelle sur Facebook Suivre Usine Nouvelle sur Twitter RSS Usine Nouvelle

Les cookies assurent le bon fonctionnnement de nos sites et services.
En utilisant ces derniers, vous acceptez l’utilisation des cookies.

En savoir plus