Si l’origine du mot « entrepreneur » est française, il en va de même du mot « bureaucratie ». On doit ce concept, initialement appelé « bureaumanie », à l’économiste Vincent de Gournay. L’invention de la bureaucratie remonte à l’Egypte et à la Chine, mais c’est en France qu’elle s’est perfectionnée, sous le modèle centralisé et hiérarchique mis en place par Louis XIV. Elle a été théorisée notamment par Max Weber, qui la définit comme une forme d’organisation impersonnelle et hiérarchique, basée sur l’application de règles strictes. Elle apporte des avantages tels que l’égalité de traitement et les gains d’efficacité liés à la standardisation (chaque cas est traité en suivant les formulaires et les processus). En revanche, elle connait également des limites comme l’incapacité de s’adapter à des cas qui n’ont pas été prévus ou la nécessité pour les bénéficiaires des services de suivre à la lettre les processus prévus. A ce titre, l'intelligence artificielle pourrait renouveler le risque.
La bureaucratie expérimentée par chacun
Chacun a été confronté un jour ou l’autre au « monstre bureaucratique ». Par exemple dans le cadre de procédures administratives : chercher à comprendre les modalités d’application d’un texte peu clair, certains ayant des circulaires dépassant une centaine de pages, obtenir un remboursement de l’assurance-maladie, pour lesquels des formulaires sous forme papier restent parfois nécessaires ou signer pour soi-même une autorisation de sortie lors de la crise du Covid-19…
Les procédures d’entreprises privées peuvent aussi être particulièrement bureaucratiques : obtenir une rectification auprès d’une banque en ligne, résilier un abonnement ou appliquer une garantie... La raison profonde des problèmes bureaucratiques tient avant tout à la rigidité du modèle, à l’inefficacité de sa mise en œuvre ou au manque d’intérêt pour les problèmes rencontrés par le client ou l’usager. Tout le monde s’est un jour senti très seul face à un opérateur de centre d’appels mal formé et donc incapable de nous aider.
A l’inverse, il n’y a rien de plus simple qu’obtenir un remboursement de la part d’Amazon – entreprise qui a compris l’importance de la satisfaction du client et su mettre en place des processus faisant intervenir des responsables dotés d’une capacité de décision pour régler au plus vite les problèmes. On notera au passage qu’il y a quelque chose d’un peu paradoxal dans notre société, capable de régler beaucoup plus vite les problèmes d’un cadre qui s’est trompé en commandant une paire de chaussettes sur Amazon, qu’elle ne peut aider une personne malade en difficulté pour obtenir un rendez-vous auprès d’un médecin spécialiste...
L'IA, au risque d'enfermer une réalité diverse et complexe
On entend actuellement de nombreuses voix – en France comme aux Etats-Unis – alerter sur les risques potentiels liés à l’intelligence artificielle. Elle pourrait en effet conduire à un monde dans lequel l’information serait polluée par les fausses informations ou le débat réduit à une position unique. On imagine des scenarii noirs dans lesquels des décisions désormais largement robotisées seraient prises en dépit du bon sens et engendreraient des conséquences catastrophiques. On note l’absence de conscience de cette technologie, capable d’horreurs que tout individu refuserait de commettre.
Si ces risques sont réels, ils ne sont cependant pas liés à l’intelligence artificielle, mais davantage à une utilisation bureaucratique de l’intelligence artificielle. C'est-à-dire une utilisation inappropriée de l’IA, qui consisterait à confier à cette technologie des tâches qui la dépassent – comme par exemple traiter un cas client, ou un dossier d’usager. Et dans ces cas, l’IA ne sera pas plus responsable des problèmes qui découleront de ce genre de décisions que ne le serait le papier, si l’on décidait de remplacer les agents des services fiscaux qui répondent aux questions des contribuables par un exemplaire du code des impôts. Le véritable risque est donc la bureaucratie – c’est dire l’approche consistant à essayer d’enfermer une réalité diverse et complexe dans des processus rigides qui excluent l’intervention d’un peu de bon sens humain.
A l’inverse, beaucoup de maux que l’on prête à l’intelligence artificielle ont déjà été commis, bien avant que cette technologie ne soit développée :
- Les régimes totalitaires de tous bords ont su pratiquer la surveillance de masse des populations et la propagande à grande échelle bien avant la démocratisation des ordinateurs.
- Les pires horreurs ont été commises par des bureaucraties dont les participants se sont après coup défendus, en expliquant qu’ils n’avaient fait qu’obéir aux ordres et aux exigences de leur poste.
- Des bureaucraties privées ont régulièrement été condamnées pour appliquer avec une absence de morale qui n’a rien à envier à un programme informatique des méthodes contestables, par exemple s’agissant des demandes de résiliation d’abonnements ou d’abus de position dominante.
A cet égard, l’IA ne présente pas un risque nouveau – elle ne fait qu’offrir un moyen supplémentaire pour mettre en place des approches bureaucratiques, dans le privé ou le public. Et la bonne réponse est donc moins d’interdire l’IA, que d’interdire la bureaucratie – ou tout au moins de donner à chacun d’entre nous les moyens de dénoncer ses effets et d’en réduire le périmètre. Quitte à utiliser l'IA pour atteindre cet objectif.
