C’est le 16 septembre à Palaiseau (Essonne), lors de l’édition 2025 du Trustworthy AI Summit, le sommet de l’IA de confiance, qu’a été annoncée la création de la European Trustworthy AI Association. Son objectif est de promouvoir des IA fiables, explicables et conformes aux réglementations afin qu’elles puissent être déployées en toute sécurité dans les process industriels. Les statuts de l’association viennent d’être déposés, mais ses fondateurs discutent depuis près d’un an sur son organisation et ses objectifs. On y retrouve quelques grands noms de l’industrie française, dont Air Liquide, Airbus, Thales, Naval Group, Safran, mais aussi des chercheurs du CEA-List, des IRT Saint-Exupéry et SystemX, des universités d’Athènes et de Southampton.
Nicolas Rebierre, responsable recherche et développement à l’IRT SystemX assure la présidence de l’association. Il explique le sens de cette initiative : « Beaucoup de projets d’IA butent sur le dernier kilomètre, sur la phase de déploiement. L’une des difficultés majeures porte sur la confiance à accorder aux IA. Notre mission est de créer les conditions de cette confiance en fournissant des méthodologies et des outils. La méthodologie est la clé de l’industrialisation »
Capitaliser sur les travaux de Confiance.ai
L’action de l’association s’inscrit directement dans la continuité de confiance.ai qui s’est achevé fin 2024. Michel Morvan, président de l’IRT SystemX, rappelle l’importance de ce programme financé dans le cadre du plan France 2030 : « Confiance.ai a rencontré un succès important : 45 millions d’euros ont été investis en 4 ans, l’équivalent de 300 ETP ont travaillé sur le programme et il y a eu jusqu’à 50 partenaires impliqués. Ce fut un très grand succès, mais la grande question était pour nous comment aller au-delà car la question de l’IA de confiance est capitale. »
On retrouve les membres du programme à l’initiative de la création de l’association European Trustworthy AI, dont les objectifs restent tout aussi pragmatiques : il ne s’agit pas de publier des papiers de recherche, mais bien de délivrer des logiciels open source, des méthodologies directement utilisables par les industriels. Outre la méthode d’engineering de l’IA baptisée The Body of Knowledge, Confiance.ai lègue à l’association une centaine de réalisations, dont 25 outils Open Source au catalogue en ligne de confiance.ai et 7 outils qui sont supportés en production par ses membres.
Cinq groupes de travail formés
Cinq groupes de travail ont d’ores et déjà été formés. Le premier vise à stimuler l’adoption et le déploiement des outils dans le contexte industriel. Un deuxième est dédié à l’animation scientifique et au partage de connaissances. Un groupe de travail est dédié à la standardisation afin de mutualiser les efforts de normalisation des membres et d’aligner les outils et méthodes sur les réglementations et normes. Un groupe de travail formation doit coordonner la création de formations destinées aux ingénieurs. Enfin, un groupe de travail communication est chargé d’organiser les futures éditions du sommet. Un dernier groupe est en cours de formation. Il sera plus particulièrement dédié au secteur de la défense.
Au-delà de la pérennisation des avancées réalisées par le programme confiance.ai, la création de l’association montre l’importance de la confiance pour l’essor de l’IA dans l’industrie. David Sadek, Vice-President Research, Technology and Innovation de Thales résume cette tendance : « L’IA de confiance n’est pas une option : c’est un must lorsqu’il s’agit de passer au niveau industriel ».
