"L'usage des algorithmes peut être déresponsabilisant", observe Gilles Rouet

Difficile pour les usagers de connaître le nombre d'algorithmes déployés dans les administrations, qu'ils soient utilisés pour un traitement automatisé de dossiers ou pour leur aspect prédictif. La mission Etalab a récemment rédigé un mode d'emploi pour une meilleure intégration de ces outils dans les services. Dans les collectivités de plus de 50 agents et 3 500 habitants, les décideurs doivent respecter des obligations de transparence et de mention explicite à l'égard des décisions qui en découlent pour les citoyens. Autant de choix qui suscitent, à raison, des débats, selon Gilles Rouet, directeur de l'Institut supérieur de management *.

Partager

Gilles Rouet, directeur de l'Institut supérieur de management ( Institut d'administration des entreprises de Versailles - Saint-Quentin-en-Yvelines).

Comment les algorithmes façonnent-ils la décision publique ?

La logique de recherche de performance du « new public management » pose, certes, la question de l'efficacité budgétaire mais aussi celle de la relation au citoyen et son rapport aux services publics. Les algorithmes répondent à une partie de cette question, mais ne portent pas en eux la clé de la performance. On en a parfois développé sans avoir évalué leur utilité, ou pensé aux problèmes qu'ils pourraient résoudre. Ensuite, il faut cultiver la responsabilité de celui qui s'appuierait sur des algorithmes pour prendre une décision. Sur les chantiers relatifs à l'e-administration, l'afflux de processus algorithmiques présente ce risque de retranchement derrière une machine.

Mais ce n'est pas l'algorithme qui est déresponsabilisant, c'est l'usage que l'on en fait et le rapport que l'on conserve entre agents et citoyens. Cela ne doit pas les empêcher d'avoir un regard critique pour mieux assumer les décisions à l'égard des administrés.

Pensez-vous que l'on devrait mieux évaluer la réception de ces outils par les agents et les administrés ?

A n'importe quel échelon, toute décision administrative doit être motivée, et c'est encore plus nécessaire en cas de recours aux algorithmes face auxquels on peut se sentir démuni et sans marge de négociation. La transparence est capitale quand on a un sentiment d'arbitraire. Depuis l'aide à la décision dans les années 1950, pour mieux voir parmi un tas de données à prendre en compte, leur usage prend aujourd'hui une tournure idéologique différente : il faut parallèlement mettre fin à cette idée de neutralité de l'algorithme qui empêcherait de remettre en cause l'outil, dont les critères sont pourtant préalablement déterminés. Dans une décision, il y a aussi l'alchimie des intuitions et des relations humaines qui n'entre pas, elle, dans ces critères. L'usage des algorithmes peut à cet égard nous aider à mieux cultiver le relationnel dans le rapport aux usagers.

Les agents sont-ils assez sensibilisés à ces questions pour en parler aux usagers ?

Utiliser des algorithmes pour une simplification administrative est un très bon objectif en soi, mais il faut se préoccuper du processus et du sens que cela donne au travail des agents. Le risque peut consister en une réduction des tâches qui alimente une peur de n'être qu'une interface entre le résultat d'un algorithme et les administrés. Il faut rester vigilant sur ce que l'algorithme permet et ce qu'il ne permet pas. Ce travail n'a pas encore été fait. Tous ces outils peuvent renforcer la performance globale et les usagers sont à même de le comprendre et de les trouver légitimes. Mais avec le développement d'usages prédictifs, attention à ne pas confondre le monde probabiliste et le monde réel. On ne peut pas dire qu'on va moins traiter les problèmes rares car ils sont plus difficiles à prédire. Les algorithmes ne nous amèneraient-ils pas à moins réfléchir au risque que l'on est prêt à accepter ?

(*) Institut d'administration des entreprises de Versailles - Saint-Quentin-en-Yvelines.

[Article issu de La Gazette des Communes, première publication le 19 juin 2019]

Gilles Rouet a dirigé l'ouvrage « Algorithmes et décisions publiques » (CNRS éditions, 2019)

Partager

PARCOURIR LE DOSSIER
LES ÉVÉNEMENTS L'USINE NOUVELLE

Trophée

TROPHÉES DES USINES 2021

100% digital , live et replay - 27 mai 2021

Gestion industrielle et Production

Déposez votre dossier avant le 26 février pour concourir aux trophées des usines 2021

Conférence

MATINÉE INDUSTRIE DU FUTUR

100% digital , live et replay - 27 mai 2021

Gestion industrielle et Production

Comment rebondir après la crise 2020 et créer des opportunités pour vos usines

Formation

Espace de travail et bien-être des salariés

Paris - 01 juin 2021

Services Généraux

Optimiser l’aménagement du bureau

LES SERVICES DE L'USINE NOUVELLE

ARTICLES LES PLUS LUS