Abonnez-vous Identifiez-vous

Identifiez-vous

Vos codes d'accès sont erronés, Veuillez les saisir à nouveau. Mot de passe oublié ?

La gestion des projets complexes

Le blog de Rodolphe Krawczyk

Intelligence artificielle et numérisation, à quand notre perte d'identité ?

Publié le

Intelligence artificielle et numérisation, à quand notre perte d'identité ?
© Markus Spiske - Unsplash

A l'heure de la déshumanisation à tout crin et de la transformation digitale, il serait opportun de prendre un peu de recul et d'empêcher que notre identité propre soit tellement numérisée qu'elle disparaisse…

J'ai souvent abordé les problèmes liés à la déshumanisation que nous vivons tous non seulement dans l'industrie (et tout particulièrement dans les grandes entreprises) mais aussi dans la vie privée.

L'édito vidéo de l'Usine Nouvelle du 28 mars, dans lequel Christine Kerdellant évoque les dangers de l'Intelligence Artificielle (IA) lorsque celle-ci se met au service du totalitarisme (chinois en l'occurrence… du moins pour le moment) m'a poussé à écrire ce blog qui à vrai dire était déjà en gestation depuis longtemps, mais je n'avais pas encore osé franchir le pas…

Au fil des ans, et bien avant l'avènement de la transformation digitale, la classification des individus par les grandes entités (donc l'industrie mais aussi les organismes publics pour ce qui touche au privé) en est venue à se réduire la plupart du temps à un nom (ou un identifiant) et un numéro : j'ai acquis l'impression (je devrais dire la conviction) que nous sommes devenus, en tant qu'employés ou citoyens, des entités numériques, que la transformation digitale s'est empressée de réduire à un certain nombre de bits entrés dans des fichiers gérés par des machines rendues de plus en plus performantes grâce à l'IA (par "performantes", j'entends de plus en plus capables de se passer de l'intervention humaine).

On peut craindre que notre identité ne soit peu à peu ramenée à 2 "quantifiants": Identifiant et Numéro, IN… (qui n'est pas sans rappeler, fort heureusement à une échelle bien moindre, le sinistre NN de la Seconde Guerre Mondiale).

J'ai découvert récemment que les entreprises (essentiellement les grandes entreprises, je doute que les PME aient recours à ce genre de démarche) utilisent maintenant un outil pour… parer les (redoutés) RPS (risques psycho-sociaux) !!!… On interpose encore un mur entre deux humains: l'un des humains (le subalterne) est censé quantifier, via son ordinateur, son ressenti au travail (stress, satisfaction, attentes, etc), par exemple au moyen de curseurs… Les données, supposées confidentielles, sont ensuite "traitées" par les Ressources Humaines… Et la communication directe avec son manager dans tout ça ? abolie!... elle n'est certes pas formellement interdite, mais pourquoi se priver du plaisir de faire joujou avec un nouvel outil, qui lui aussi va générer des données quantifiées… le mot "quantifiées" est capital: on ne sait aujourd'hui traiter que les données quantifiées, c'est-à-dire numérisées, d'où l'importance de la transformation digitale…

On comprend mieux le danger de l'IA "à la chinoise": déjà réduits à l'état d'IN, serons-nous bientôt soumis à une surveillance permanente qui en tirera des données chiffrées que le "Système" intègrera sur notre carte IN, données qui permettront d'orienter notre vie professionnelle (et notre vie privée)? Le pas n'est pas très difficile à franchir, la technologie est disponible (nous ne sommes pas en retard en France: les caméras de visualisation des passages pour piétons ne sont qu'un début, timide certes, mais un début quand même, justifié il est vrai par le comportement de certains automobilistes; et certaines villes souhaitent installer dans les transports publics des caméras destinées à analyser l'état d'esprit des voyageurs, le but officiel étant la prévention d'actes terroristes, du Minority Report avant l'heure…).

On oublie malheureusement un peu trop facilement, malgré les récents déboires de Google et Facebook sur le sujet, que tous ces logiciels sophistiqués sont conçus par des humains qui y transfèrent leurs "biais"… L'erreur étant humaine, elle est donc aussi le propre du logiciel, avec une nuance: on peut influer sur le jugement d'un humain, pas sur celui d'une machine… Je crains que nous disposions de peu de moyens à titre individuel pour nous opposer à cette dérive, soyons au moins conscients que le numérique tous azimuts, y compris dans la gestion des rapports humains, ne fera qu'aggraver la déshumanisation généralisée et nous transformera encore plus vite en IN, classifiés sous forme de suites de 0 et de 1…

Créez votre compte L’Usine Connect

Fermer
L'Usine Connect

Votre entreprise dispose d’un contrat
L’Usine Connect qui vous permet d’accéder librement à tous les contenus de L’Usine Nouvelle depuis ce poste et depuis l’extérieur.

Pour activer votre abonnement vous devez créer un compte

Créer votre Compte
Suivez-nous Suivre Usine Nouvelle sur Facebook Suivre Usine Nouvelle sur Twitter RSS Usine Nouvelle