Le marché de l’Intelligence Artificielle (IA) est tiré par plusieurs tendances : l’essor de l’IA générative et son application à de multiples cas d’usage industriels et serviciels, l’hybridation des outils classiques des ingénieries avec des modèles d’IA, et l’émergence de fonctionnalités plus sophistiquées rendues possibles notamment par les modèles fondationnels, qui viennent élargir le périmètre fonctionnel des systèmes et suscitent des attentes accrues en matière de performance, de polyvalence et de création de valeur. Les industries cherchent à tirer parti de ces opportunités pour accroître leur productivité et enrichir la valeur ajoutée de leurs produits, processus et services. Cependant, elles se heurtent à deux défis majeurs : le passage des démonstrateurs vers des déploiements opérationnels, ainsi que l’adaptation rapide à l’évolution constante de l’état de l’art, tant scientifique que réglementaire.

Nous sommes convaincus que la véritable valeur de l’IA réside, non pas dans les modèles eux-mêmes, mais dans son niveau d’acceptabilité et sa capacité à être intégrée efficacement aux systèmes. C’est pourquoi nous plaçons la confiance au cœur de nos travaux : elle est, selon nous, la clé pour libérer tout le potentiel d’innovation que l’IA peut offrir à nos industries.  

Dans ce contexte, nous pilotons depuis plus de 10 ans des projets de R&T multi-partenaires et multi-filières – à l’instar de Confiance.ai, programme structurant de la stratégie nationale pour l’intelligence artificielle – pour proposer des solutions adaptées et by-design à nos partenaires. 

Une approche centrée sur les besoins industriels en matière d’IA

L’IA industrielle et responsable est au cœur du positionnement de l’IRT SystemX. Pour que l’IA s’impose dans des secteurs industriels stratégiques tels que l’aéronautique, l’automobile, l’énergie ou encore la défense, elle doit apporter suffisamment de garanties de sûreté, de sécurité et d’éthique. C’est d’autant plus vrai lorsqu’il s’agit de systèmes dits critiques, pour lesquels le droit à l’erreur n’existe pas.  

L’intégration de l’IA dans les systèmes industriels est un défi majeur pour les acteurs. D’une part parce qu’elle nécessite la mise en œuvre d’une approche de bout en bout pour spécifier, concevoir, évaluer et opérer ces systèmes en toute confiance et ce, tout au long de leur cycle de vie. Et d’autre part, parce qu’ils doivent s’assurer de la conformité de leurs systèmes intégrant des composants d’IA avec les règlementations européennes, parmi lesquelles l’AI Act.  

Pour cela, nous veillons à garantir un haut niveau de confiance dans les systèmes développés, en intégrant des principes de robustesse, d’explicabilité et de quantification d’incertitudes. Dans le cadre du programme Confiance.ai, SystemX en association avec près d’une cinquantaine de partenaires de premier plan, a établi l’état de l’art en matière d’ingénierie de l’IA de Confiance : une méthodologie de bout en bout, éprouvée sur des cas d’usage industriels et un catalogue d’outils de confiance à disposition des communautés scientifique et industrielle pour favoriser la conception d’applications industrielles intégrant des composants d’IA de confiance, en toute sécurité, conformes aux exigences de la règlementation européenne.  

A travers ce programme, l’IRT SystemX est devenu un acteur de référence de l’IA de confiance dans les écosystèmes français et européen. Grâce à son expertise et à son réseau, l’institut est désormais un véritable moteur d’innovation et de transformation qui favorise l’émergence d’une IA industrielle et responsable. L’institut a également joué un rôle clé dans l’élaboration de normes et standards européens pour évaluer et certifier les composants IA.  

Stratégie 2030 : approfondir, pérenniser, industrialiser

Afin de pérenniser les résultats du programme Confiance.ai, l’IRT SystemX conduit une stratégie en trois volets :  

• Approfondir les résultats obtenus et relever les défis associés à d’autres typologies d’IA, telles que les LLM (Large Language Model), l’IA générative, ou encore en intégrant les approches hybridant l’IA avec des connaissances physiques ou humaines, ou en s’attaquant aux enjeux de cybersécurité dans le cadre de nouveaux projets de R&D.
• Pérenniser et diffuser les méthodes et outils issus du programme via la création de la European Trustworthy AI Association, portant l’ambition de devenir le fer de lance de la stratégie européenne en matière d’IA industrielle et responsable.   
• Industrialiser l’IA de confiance en guidant les acteurs vers des solutions offertes par un réseau d’experts et de fournisseurs de services adaptés à leurs besoins, qu’il s’agisse de formation (ex : Mastère spécialisé IA de confiance), d’aide à la mise en conformité ou encore de solutions pour soutenir le déploiement de l’IA de confiance dans l’industrie. 

L’open-source comme levier pour accélérer l’adoption de l’IA

La stratégie de l’IRT SystemX inclut une ouverture vers l’open source pour maximiser l’impact de ses travaux et favoriser l’adoption la plus large possible – à l’échelle européenne, voire mondiale – de la méthodologie de bout en bout et du catalogue d’outils. Cette approche renforce la transparence et favorise la collaboration, tout en offrant à un large public les moyens de tester, d’adopter et d’améliorer les solutions. 

En partageant ses développements technologiques, SystemX aspire à devenir un acteur central dans la diffusion des bonnes pratiques et des standards pour l’IA de confiance, ainsi qu’à maintenir et à développer une large communauté nationale et internationale d’excellence sur l’IA de confiance.

Vers une ouverture à l’international

Au-delà de la mise en place de coopérations scientifiques et technologiques avec des acteurs internationaux, l’institut s’implique dans des comités de standardisation (ex : ISO, CEN CENELEC et AFNOR), ainsi qu’au sein de l’AI Trust Alliance, en vue de contribuer à l’élaboration de normes mondiales. Par le biais de ces collaborations, l’institut affirme sa volonté de jouer un rôle de premier plan dans la transformation numérique des industries à l’échelle mondiale