Abonnez-vous Identifiez-vous

Identifiez-vous

Vos codes d'accès sont erronés, Veuillez les saisir à nouveau. Mot de passe oublié ?

Chatbots et robots affectifs

Le blog de Laurence Devillers

Le nudge des machines affectives

Publié le

Le nudge des machines affectives
© Stephan Henning - Unsplash

Avec le développement des réseaux sociaux et des applications internet, les nudges sont un peu partout sans que l’utilisateur ne s’en rende compte. Les objets connectés, et spécifiquement les agents conversationnels comme Google Home ou Alexa Amazon, apportent une nouvelle dimension dans l’interaction, à savoir la parole, et pourraient devenir un moyen d’influence des individus.

Le nudge, qu’est-ce que c’est ?

En voici un exemple que vous connaissez : Lorsqu’on réserve par exemple un hôtel sur Internet, une petite phrase en rouge vous informe que vous êtes plusieurs à regarder cette offre vous incitant ainsi à réserver au plus vite ! Cela pourrait être aussi bientôt un chatbot qui vous suggère de faire du sport … avec comme incidence une baisse ou une hausse de votre assurance médicale !  De nombreux autres exemples de nudges sont présents dans le monde numérique. C’est souvent le choix par défaut d’un logiciel … qui n’est pas neutre.

Le nudge est une méthode destinée à orienter les comportements sans jamais contraindre ni culpabiliser les individus. Lauréat du prix Nobel d'économie en 2017, l'Américain Richard Thaler a mis en lumière en 2008 le concept de nudge, technique qui consiste donc à inciter les individus à changer de comportement sans les contraindre en utilisant leurs biais cognitifs. En dialogue homme-machine et économie comportementale, la stratégie des nudges dans les interactions vocales n’a encore jamais été étudiée. Le pouvoir des nudges va être amplifié grâce au numérique et à l’intelligence artificielle à travers des objets qui vont détecter vos habitudes et comportements et nous influencer, nous inciter à consommer...

Une voix pourrait vous inciter à faire plus de sport, à manger moins, à être plus attentif, à acheter une crème antirides, à voter pour untel...

Le nudge est souvent mis en œuvre pour surveiller notre santé et pour notre bien-être, il pourrait tout autant être insistant à des fins uniquement mercantiles. Tous ces systèmes ne sont pour l’instant ni régulés, ni évalués et très opaques.

Se servir des émotions pour influencer à travers les machines

Les nudges présentés par des chatbots ou robots sont définis comme des suggestions ou manipulations manifestes ou cachées conçues pour influencer le comportement ou les émotions d’un utilisateur. Les systèmes affectifs seront-ils conçus pour inciter les utilisateurs à changer leur comportement pour leur avantage personnel et/ou au profit de quelqu'un d'autre ? Ces systèmes peuvent être conçus pour nous soutirer des données privées dans notre intimité ou encore pour nous inciter à faire des actions ou à prendre des décisions que nous ne souhaitions pas. Cette manipulation douce peut être faite en se servant de nos biais cognitifs par des actions suggérées, pour faire comme son voisin, par paresse, pour simplifier le problème.

En se basant sur l’étude des nudges, techniques pour modifier le comportement des personnes, le projet Bad Nudge Bad Robot, projet de l’institut de convergence DATAIA, souhaite mettre en lumière l’importance de l’éthique dans la création de ces objets numériques conversationnels capables de nudges, sur plusieurs types de population plus ou moins vulnérables afin de développer des outils d’évaluation des nudges pour en montrer l’impact. Cet axe de recherche est novateur, il est important de comprendre l’impact de ces nouveaux outils dans la société et de porter ce sujet sur l’éthique et la manipulation par les machines à l’international. Les objets vont s’adresser à nous en nous parlant. Il est nécessaire de mieux comprendre la relation à ces objets bavards sans conscience, sans émotions et sans intentions propres. Les concepteurs doivent, pour éviter ces confusions entre le vivant et les artefacts, donner plus de transparence et d’explications sur les capacités des machines. Les utilisateurs n’ont aujourd’hui pas conscience de la façon dont marchent ces systèmes, ils ont tendance à les anthropomorphiser. L’objectif ultime est de créer des objets "ethic by design" et de réfléchir à une dynamique internationale sur ce sujet.

La valorisation des résultats issus des expérimentations de ce projet est de produire des mesures pour la surveillance de ces outils ainsi que des recommandations économiques (en matière de régulation), éthiques et juridiques à destination des décideurs publics. Le sujet des nudges n’a pour l’heure fait l’objet d’aucune analyse juridique transversale.

Tester la capacité d’empowerment (encapacitation) des utilisateurs paraît également fondamentale à l’heure où les autorités de surveillance et de régulation n’auront pas les moyens suffisants pour assurer un comportement éthique des nombreux objets connectés et robots qui vont arriver au sein des foyers.

Il s’agit aussi particulièrement de penser aux moyens de protection des populations les plus fragiles tout en assurant le développement économique du secteur des TIC sur le territoire européen. Il est urgent de commencer à travailler sur ces problématiques d’éthique en interdisciplinarité.

Créez votre compte L’Usine Connect

Fermer
L'Usine Connect

Votre entreprise dispose d’un contrat
L’Usine Connect qui vous permet d’accéder librement à tous les contenus de L’Usine Nouvelle depuis ce poste et depuis l’extérieur.

Pour activer votre abonnement vous devez créer un compte

Créer votre Compte
Suivez-nous Suivre Usine Nouvelle sur Facebook Suivre Usine Nouvelle sur Twitter RSS Usine Nouvelle