[Les robots et nous] Pour Serge Tisseron, "l’émergence d’attachements excessifs voire pathologiques aux robots paraît inévitable"

Episode 5/5. Parce que le robot n’est pas une machine comme une autre, la relation affective que nous allons nouer avec lui a ses spécificités... et ses dangers. Décryptage avec le psychiatre Serge Tisseron, membre de l’Académie des technologies et co-fondateur de l’Institut pour l’étude des relations homme-robots.

Partager
[Les robots et nous] Pour Serge Tisseron,
Le psychiatre Serge Tisseron, auteur notamment du "Petit traité de cyberpsychologie" (Le Pommier). A Paris le 9 juillet 2018.

L'Usine Nouvelle - Les robots commencent à être utilisés dans l’accompagnement des personnes âgées et des enfants autistes, ainsi que dans l’accueil de public. Que nous disent ces expériences des liens que nous pouvons tisser avec eux ?

Serge Tisseron - L’être humain a toujours entretenu une relation affective avec certains d’objets qui l’entourent, même si cette relation est niée par la culture occidentale. C’est dans la lignée de cet attachement général aux objets que nous allons nous lier aux robots, avec une intensité jamais égalée car les robots seront dotés de deux capacités nouvelles. La première sera de pouvoir nous interpeller. Demain, votre voiture sera équipée d’une caméra et d’un enregistreur vocal qui lui permettra de s’adresser personnellement à vous. Même votre machine à café pourra vous demander si vous voulez votre habituel expresso à votre réveil. Or dès qu’une machine interpelle un humain, surtout si elle le fait en utilisant son prénom, vous ne pouvez plus la considérer totalement comme une machine.

La deuxième caractéristique est que cette machine va vous demander de l’aider à évoluer. Nous allons guider le robot pour qu’il nous assiste et soit plus performant. Or aider quelqu’un à grandir pour qu’il puisse un jour nous aider à son tour porte un nom : c’est l’éducation. Demain, nous ferons l’éducation de notre robot pour qu’il s’occupe mieux de nous.

Vous parlez d’une intensité nouvelle. Notre lien au robot aura-t-il un caractère différent ?

La relation homme-robot a une particularité que l’exemple des soldats américains et leurs robots démineurs illustre bien. Certains soldats en charge de ces robots s’y sont attachés au point de se déprimer si leur robot est endommagé ; de présenter des douleurs d’origine psychologique à l’endroit du corps correspondant à la partie endommagée du robot ; voire d’exiger que les honneurs de la guerre soient rendus à leur robot quand il est mis hors d’usage. Certains soldats ont aussi demandé que leur robot soit réparé quel qu’en soit le prix, refusant d’avoir un robot neuf. N’ayant pas anticipé ces réactions, l’armée américaine a pensé que les soldats ne se rendaient pas suffisamment compte de ce qu’est un robot et les a entraînés à démonter et remonter l’appareil. Cela n’a servi à rien.

Savoir que le robot est une machine n’empêche pas d’interagir avec elle comme avec un être humain. Ce phénomène, déjà identifié il y a plus de 50 ans par l’informaticien Joseph Weizenbaum, s’appelle la dissonance cognitive : l’homme sait qu’il a affaire à une machine mais il se comporte comme s’il ne le savait pas.

Est-il possible, demain, qu’un homme tombe amoureux de son chatbot, comme cela est mis en scène dans le film Her?

Dans le domaine de la dépendance affective, deux facteurs jouent : l’objet lui-même, qui peut être plus ou moins addictogène, et l’addictivité, qui est la somme des fragilités personnelles de chaque individu. Le film Her, de Spike Jonze, est intéressant car il montre comment un attachement extrêmement fort se créé par la rencontre entre la fragilité du héros et la capacité du chatbot à se rendre irremplaçable. D’un côté, le héros a une fragilité personnelle, une addictivité possible car il vient de rompre avec sa femme, passe son temps seul chez lui à s’ennuyer et jouer aux jeux vidéo, et il a un travail solitaire. En face, son chatbot a été conçu pour être addictif. Il répond à toutes les questions, il a un humour incroyable et une voix modulée. Il sait être irremplaçable en toutes circonstances. A tel point que quand la relation s’interrompt, le héros en devient malade. Après avoir vu ce film, l’émergence d’attachements excessifs voire pathologiques aux robots et aux chatbots parait inévitable. Ces formes d’attachement seront demain des axes de travail pour les psychologues.

Comment lutter contre ce risque de dépendance sur lequel miseront au contraire les constructeurs ?

Un roboticien à qui je demandais comment il appréhende ce risque me disait avoir imaginé que le chatbot, après trois heures de conversation, se mette en veille et dise à l’utilisateur de faire autre chose. J’ai trouvé son idée bonne, mais les commerciaux de son entreprise eux n’en veulent pas ! Je trouverais aussi important qu’une partie des protections du robot soit transparente pour qu’en voyant son intérieur, les utilisateurs se rappellent qu’un robot est fait de câbles électriques, de moteurs et de plaques de silicium. Ce roboticien a essayé ce type de coque mais les utilisateurs se sont dits angoissés de voir ce qu’est un robot, et les commerciaux ont convaincu les équipes de remettre des protections opaques.

Cela montre un double problème. D’un côté, les entreprises rêvent de créer l’assistant dont personne ne pourra se passer. De l’autre, les gens ont envie d’avoir à faire à des robots dont ils oublient que ce sont des robots.

En quoi est-ce problématique d’oublier que la machine est une machine ?

Cette confusion est dangereuse pour plusieurs raisons. Vous pouvez oublier que les robots n’ont pas vraiment d’émotion, avec le risque de vous mettre en danger pour lui porter assistance. Une personne âgée peut se précipiter pour éviter que son robot ne tombe alors que c’est plus dangereux pour elle que pour lui. Le danger est aussi de prendre la relation au robot pour un modèle possible pour la relation entre humains, alors qu’il a été programmé pour être toujours gentil, affable et d’accord avec vous. Enfin le risque est d’oublier que derrière le robot il y a des roboticiens et des programmes construits par des humains.

La relation affective que j’ai avec mon robot, en qui j’ai toute confiance, ne doit pas me faire oublier que quand il me propose de me faire livrer une pizza, il y a probablement un contrat derrière entre l’entreprise fabricante et la pizzeria en question. Le robot donnera des conseils désintéressés, comme penser à son parapluie quand il pleut, mais aussi des conseils intéressés. Si nous l’oublions, ces machines risquent de nous faire basculer du modèle du consentement éclairé aujourd’hui en vigueur à des formes de consentement induit.

Ceux qui créent les robots, de la conception de l’algorithme jusqu’à la mise en route, vont donc avoir une responsabilité éthique très grande...

C’est un sujet sur lequel je me mobilise car je ne fais absolument pas confiance aux informaticiens. Ces-derniers sont fascinés par le pouvoir qu’ils peuvent donner aux robots. Aujourd’hui, beaucoup travaillent par exemple sur l’humour machine, cette capacité de la machine à faire des jeux de mots adaptés à la personne de son propriétaire en utilisant toutes les informations qu’elle trouve sur internet et dans sa relation à lui. Je comprends que ce soit fascinant à concevoir mais c’est dangereux. L’humour machine va causer des quiproquos qui vont nourrir la confusion entre un être humain et une machine.

Par fascination pour la technologie, ceux qui conçoivent les robots veulent leur donner des attributs de l’homme jusqu’à provoquer une formidable confusion. Cela m’inquiète énormément. Pour les informaticiens, le maillon faible dans la relation homme-robot, c’est le robot, qu’ils veulent donc le plus convivial possible pour que l’homme lui fasse totalement confiance. Pour nous les psychologues, c’est humain. L’homme est une créature extrêmement fragile. Nous devons tenir compte de la fragilité humaine dans la conception des robots.

PARCOURIR LE DOSSIER

Tout le dossier

Sujets associés

NEWSLETTER Innovation

Nos journalistes sélectionnent pour vous les articles essentiels de votre secteur.

Votre demande d’inscription a bien été prise en compte.

Votre email est traité par notre titre de presse qui selon le titre appartient, à une des sociétés suivantes...

Votre email est traité par notre titre de presse qui selon le titre appartient, à une des sociétés suivantes du : Groupe Moniteur Nanterre B 403 080 823, IPD Nanterre 490 727 633, Groupe Industrie Service Info (GISI) Nanterre 442 233 417. Cette société ou toutes sociétés du Groupe Infopro Digital pourront l'utiliser afin de vous proposer pour leur compte ou celui de leurs clients, des produits et/ou services utiles à vos activités professionnelles. Pour exercer vos droits, vous y opposer ou pour en savoir plus : Charte des données personnelles.

LES ÉVÉNEMENTS L'USINE NOUVELLE

LES PODCASTS

A Grasse, un parfum de renouveau

A Grasse, un parfum de renouveau

Dans ce nouvel épisode de La Fabrique, Anne Sophie Bellaiche nous dévoile les coulisses de son reportage dans le berceau français du parfum : Grasse. Elle nous fait découvrir un...

Écouter cet épisode

Les recettes de l'horlogerie suisse

Les recettes de l'horlogerie suisse

Dans ce nouvel épisode de La Fabrique, notre journaliste Gautier Virol nous dévoile les coulisses de son reportage dans le jura suisse au coeur de l'industrie des montres de luxe. 

Écouter cet épisode

Le rôle des jeux vidéo dans nos sociétés

Le rôle des jeux vidéo dans nos sociétés

Martin Buthaud est docteur en philosophie à l'Université de Rouen. Il fait partie des rares chercheurs français à se questionner sur le rôle du jeu vidéo dans nos...

Écouter cet épisode

Les coulisses d'un abattoir qui se robotise

Les coulisses d'un abattoir qui se robotise

Dans ce nouvel épisode de La Fabrique, Nathan Mann nous dévoile les coulisses de son reportage dans l'abattoir Labeyrie de Came, dans les Pyrénées-Atlantiques, qui robotise peu à peu...

Écouter cet épisode

Tous les podcasts

LES SERVICES DE L'USINE NOUVELLE

Trouvez les entreprises industrielles qui recrutent des talents

WESER

Technicien Qualité (H/F)

WESER - 29/08/2022 - CDI - TOURS

+ 550 offres d’emploi

Tout voir
Proposé par

Accédez à tous les appels d’offres et détectez vos opportunités d’affaires

976 - DEMBENI

Réalisation des travaux de densification (réhabilitation et extension ) et création d'un réfectoire du groupe scolaire en T22.

DATE DE REPONSE 01/01/1970

+ de 10.000 avis par jour

Tout voir
Proposé par

ARTICLES LES PLUS LUS