L'intelligence artificielle au service des systemes critiques Les defis de l'IA de confiance

摘要

L'intelligence artificielle (IA), couplee a la science des donnees, est devenue incontournable pour apporter une reelle valeur ajoutee dans de nombreux secteurs comme les transports et la mobilite, la sante, l'energie, l'industrie, la logistique, la finance, le commerce et le marketing, ou encore la defense et la securite. Cependant son deploiement dans les systemes critiques, dont la validation voire la certification, constituent une condition incontournable a leur utilisation, souleve de vrais defis. Ainsi, qu'ils soient apprenants a partir de donnees, diriges par des modeles explicites, ou hybridant les deux approches, les systemes critiques a base d'IA devront satisfaire, par construction, des principes d'explicabilite, d'auditabilite, de confiance et de responsabilite.