Abonnez-vous Identifiez-vous

Identifiez-vous

Vos codes d'accès sont erronés, Veuillez les saisir à nouveau. Mot de passe oublié ?

[Les robots et nous] Pour Serge Tisseron, "l’émergence d’attachements excessifs voire pathologiques aux robots paraît inévitable"

,

Publié le , mis à jour le 03/09/2018 À 11H15

Entretien Episode 5/5. Parce que le robot n’est pas une machine comme une autre, la relation affective que nous allons nouer avec lui a ses spécificités... et ses dangers. Décryptage avec le psychiatre Serge Tisseron, membre de l’Académie des technologies et co-fondateur de l’Institut pour l’étude des relations homme-robots.

[Les robots et nous] Pour Serge Tisseron, l’émergence d’attachements excessifs voire pathologiques aux robots paraît inévitable
Le psychiatre Serge Tisseron, auteur notamment du "Petit traité de cyberpsychologie" (Le Pommier). A Paris le 9 juillet 2018.
© olivier coret/ divergence

L'Usine Nouvelle - Les robots commencent à être utilisés dans l’accompagnement des personnes âgées et des enfants autistes, ainsi que dans l’accueil de public. Que nous disent ces expériences des liens que nous pouvons tisser avec eux ?

Serge Tisseron - L’être humain a toujours entretenu une relation affective avec certains d’objets qui l’entourent, même si cette relation est niée par la culture occidentale. C’est dans la lignée de cet attachement général aux objets que nous allons nous lier aux robots, avec une intensité jamais égalée car les robots seront dotés de deux capacités nouvelles. La première sera de pouvoir nous interpeller. Demain, votre voiture sera équipée d’une caméra et d’un enregistreur vocal qui lui permettra de s’adresser personnellement à vous. Même votre machine à café pourra vous demander si vous voulez votre habituel expresso à votre réveil. Or dès qu’une machine interpelle un humain, surtout si elle le fait en utilisant son prénom, vous ne pouvez plus la considérer totalement comme une machine.

La deuxième caractéristique est que cette machine va vous demander de l’aider à évoluer. Nous allons guider le robot pour qu’il nous assiste et soit plus performant. Or aider quelqu’un à grandir pour qu’il puisse un jour nous aider à son tour porte un nom : c’est l’éducation. Demain, nous ferons l’éducation de notre robot pour qu’il s’occupe mieux de nous.

Vous parlez d’une intensité nouvelle. Notre lien au robot aura-t-il un caractère différent ?

La relation homme-robot a une particularité que l’exemple des soldats américains et leurs robots démineurs illustre bien. Certains soldats en charge de ces robots s’y sont attachés au point de se déprimer si leur robot est endommagé ; de présenter des douleurs d’origine psychologique à l’endroit du corps correspondant à la partie endommagée du robot ; voire d’exiger que les honneurs de la guerre soient rendus à leur robot quand il est mis hors d’usage. Certains soldats ont aussi demandé que leur robot soit réparé quel qu’en soit le prix, refusant d’avoir un robot neuf. N’ayant pas anticipé ces réactions, l’armée américaine a pensé que les soldats ne se rendaient pas suffisamment compte de ce qu’est un robot et les a entraînés à démonter et remonter l’appareil. Cela n’a servi à rien.

Savoir que le robot est une machine n’empêche pas d’interagir avec elle comme avec un être humain. Ce phénomène, déjà identifié il y a plus de 50 ans par l’informaticien Joseph Weizenbaum, s’appelle la dissonance cognitive : l’homme sait qu’il a affaire à une machine mais il se comporte comme s’il ne le savait pas.

Est-il possible, demain, qu’un homme tombe amoureux de son chatbot, comme cela est mis en scène dans le film Her?

Dans le domaine de la dépendance affective, deux facteurs jouent : l’objet lui-même, qui peut être plus ou moins addictogène, et l’addictivité, qui est la somme des fragilités personnelles de chaque individu. Le film Her, de Spike Jonze, est intéressant car il montre comment un attachement extrêmement fort se créé par la rencontre entre la fragilité du héros et la capacité du chatbot à se rendre irremplaçable. D’un côté, le héros a une fragilité personnelle, une addictivité possible car il vient de rompre avec sa femme, passe son temps seul chez lui à s’ennuyer et jouer aux jeux vidéo, et il a un travail solitaire. En face, son chatbot a été conçu pour être addictif. Il répond à toutes les questions, il a un humour incroyable et une voix modulée. Il sait être irremplaçable en toutes circonstances. A tel point que quand la relation s’interrompt, le héros en devient malade. Après avoir vu ce film, l’émergence d’attachements excessifs voire pathologiques aux robots et aux chatbots parait inévitable. Ces formes d’attachement seront demain des axes de travail pour les psychologues.

Comment lutter contre ce risque de dépendance sur lequel miseront au contraire les constructeurs ?

Un roboticien à qui je demandais comment il appréhende ce risque me disait avoir imaginé que le chatbot, après trois heures de conversation, se mette en veille et dise à l’utilisateur de faire autre chose. J’ai trouvé son idée bonne, mais les commerciaux de son entreprise eux n’en veulent pas ! Je trouverais aussi important qu’une partie des protections du robot soit transparente pour qu’en voyant son intérieur, les utilisateurs se rappellent qu’un robot est fait de câbles électriques, de moteurs et de plaques de silicium. Ce roboticien a essayé ce type de coque mais les utilisateurs se sont dits angoissés de voir ce qu’est un robot, et les commerciaux ont convaincu les équipes de remettre des protections opaques.

Cela montre un double problème. D’un côté, les entreprises rêvent de créer l’assistant dont personne ne pourra se passer. De l’autre, les gens ont envie d’avoir à faire à des robots dont ils oublient que ce sont des robots.

En quoi est-ce problématique d’oublier que la machine est une machine ?

Cette confusion est dangereuse pour plusieurs raisons. Vous pouvez oublier que les robots n’ont pas vraiment d’émotion, avec le risque de vous mettre en danger pour lui porter assistance. Une personne âgée peut se précipiter pour éviter que son robot ne tombe alors que c’est plus dangereux pour elle que pour lui. Le danger est aussi de prendre la relation au robot pour un modèle possible pour la relation entre humains, alors qu’il a été programmé pour être toujours gentil, affable et d’accord avec vous. Enfin le risque est d’oublier que derrière le robot il y a des roboticiens et des programmes construits par des humains.

La relation affective que j’ai avec mon robot, en qui j’ai toute confiance, ne doit pas me faire oublier que quand il me propose de me faire livrer une pizza, il y a probablement un contrat derrière entre l’entreprise fabricante et la pizzeria en question. Le robot donnera des conseils désintéressés, comme penser à son parapluie quand il pleut, mais aussi des conseils intéressés. Si nous l’oublions, ces machines risquent de nous faire basculer du modèle du consentement éclairé aujourd’hui en vigueur à des formes de consentement induit.

Ceux qui créent les robots, de la conception de l’algorithme jusqu’à la mise en route, vont donc avoir une responsabilité éthique très grande...

C’est un sujet sur lequel je me mobilise car je ne fais absolument pas confiance aux informaticiens. Ces-derniers sont fascinés par le pouvoir qu’ils peuvent donner aux robots. Aujourd’hui, beaucoup travaillent par exemple sur l’humour machine, cette capacité de la machine à faire des jeux de mots adaptés à la personne de son propriétaire en utilisant toutes les informations qu’elle trouve sur internet et dans sa relation à lui. Je comprends que ce soit fascinant à concevoir mais c’est dangereux. L’humour machine va causer des quiproquos qui vont nourrir la confusion entre un être humain et une machine.

Par fascination pour la technologie, ceux qui conçoivent les robots veulent leur donner des attributs de l’homme jusqu’à provoquer une formidable confusion. Cela m’inquiète énormément. Pour les informaticiens, le maillon faible dans la relation homme-robot, c’est le robot, qu’ils veulent donc le plus convivial possible pour que l’homme lui fasse totalement confiance. Pour nous les psychologues, c’est humain. L’homme est une créature extrêmement fragile. Nous devons tenir compte de la fragilité humaine dans la conception des robots.

Réagir à cet article

Créez votre compte L’Usine Connect

Fermer
L'Usine Connect

Votre entreprise dispose d’un contrat
L’Usine Connect qui vous permet d’accéder librement à tous les contenus de L’Usine Nouvelle depuis ce poste et depuis l’extérieur.

Pour activer votre abonnement vous devez créer un compte

Créer votre Compte
Suivez-nous Suivre Usine Nouvelle sur Facebook Suivre Usine Nouvelle sur Twitter RSS Usine Nouvelle