Abonnez-vous Identifiez-vous

Identifiez-vous

Vos codes d'accès sont erronés, Veuillez les saisir à nouveau. Mot de passe oublié ?

Faut-il avoir peur de l'IA? Le koob de "Algorithmes, la bombe à retardement" de Cathy O'Neil

Christophe Bys

Publié le

La start-up Koober et L'Usine nouvelle vous proposent le résumé d'un livre qui s'intéresse à un débat du moment. Cette semaine, nous vous invitons à découvrir "Algorithmes, la bombe à retardement" de Cathy O'Neil, publié aux éditions des Arènes. Et si les algorithmes ne nous voulaient pas que du bien... 

Faut-il avoir peur de l'IA? Le koob de Algorithmes, la bombe à retardement de Cathy O'Neil
Dans son essai, la mathématicienne passée par la finance s'attaque à l'opacité des algorithmes qui nous gouvernent.
© Les arènes

À une époque où l’algorithme est roi, les décisions qui affectent votre vie — quelle école choisir, quel emprunt effectué — ne sont plus prises par des humains, mais par des modèles mathématiques. En théorie, cela devrait favoriser l’équité : tout le monde est jugé selon le même niveau de valeur.

La mathématicienne Cathy O’Neil affirme le contraire dans "Algorithmes, la bombe à retardement", publié en France par les éditions Les Arènes. Ces modèles opaques, non régulés, peuvent causer des dommages irréparables, à l’image des paiements hypothécaires des ménages américains lors de la crise des subprimes en 2007. Pire : ils accentuent les discriminations. Ainsi, un élève issu d’un milieu modeste ne pouvant obtenir un prêt — trop risqué — n’aura jamais accès à une éducation de qualité. Ces modèles mathématiques soutiennent les chanceux et désavantagent les opprimés : bienvenue du côté obscur du big data, la croissance exponentielle des données numériques !

 

Données et base ball

Qu’est-ce qui fait la force des “armes de destruction mathématiques” (pour reprendre le titre original de cet ouvrage weapons of math destruction) propres à chaque modèle algorithmique ? Il existe différents types de modèles mathématiques. Voici trois exemples pour les illustrer.

Les modèles mathématiques appliqués au base-ball.

Ils permettent en premier lieu d’analyser les statistiques de jeu dans le but de gagner un tournoi. Ainsi, le base-ball est le sport idéal pour les modèles mathématiques prédictifs, comme le démontre le best-seller de Michael Lewis, “Moneyball”. Grâce à son approche statistique, ce dernier affirme qu’il est possible de gagner en dépit de la situation financière défavorable d’un club. Les moyennes de présence sur les buts et de puissance, ainsi que le nombre de coups de circuit et de buts sur balles sont les indicateurs de performance pertinents....

 

Pour en savoir plus (et connaître les deux autres exemples), et lire l'intégrale du Koob (un résumé analytique) consacré à ce livre, cliquez ICI (il est gratuit pour les lecteurs de L'Usine Nouvelle)

 

En lisant ce koob, vous découvrirez que les modèles mathématiques, et plus particulièrement les algorithmes couplés aux systèmes d’information, risquent d’augmenter les inégalités et de menacer les démocraties.

Vous découvrirez aussi que :

- les modèles mathématiques ne sont pas neutres, mais cachent des idéologies et des intérêts personnels ;

- les algorithmes promettent l’efficience et le moindre coût, mais accroissent les inégalités et les injustices ;

- les formules mathématiques affectent vos choix de vie ;

- vos données personnelles sont des armes dont se servent les géants de la Tech.

Réagir à cet article

Créez votre compte L’Usine Connect

Fermer
L'Usine Connect

Votre entreprise dispose d’un contrat
L’Usine Connect qui vous permet d’accéder librement à tous les contenus de L’Usine Nouvelle depuis ce poste et depuis l’extérieur.

Pour activer votre abonnement vous devez créer un compte

Créer votre Compte
Suivez-nous Suivre Usine Nouvelle sur Facebook Suivre Usine Nouvelle sur Twitter RSS Usine Nouvelle