Towards an autonomous and explainable artificial intelligence for uncertain environments
Vers une intelligence artificielle autonome et explcable pour des environnements incertains
Résumé
We are interested in the development of autonomous and explainable artificial intelligence for uncertain environments. The tasks to be solved by artificial intelligences, and more particularly by machine learning algorithms, are increasingly complex: they must be able to adapt and co-evolve autonomously with complex, changing and uncertain environments that reflect our daily environment. Meanwhile, it is increasingly necessary to be able to explain the behavior of these algorithms, as they could make critical decisions that could have a major impact on an individual's life. To meet this double objective, the concepts of autonomy and explainability of artificial intelligences, as well as environmental uncertainty, have been framed to guide our design choices towards an intrinsically explainable machine learning algorithm such as rule-based approaches, and then towards anticipatory learning classifier systems. We then developed new anticipatory learning classifier systems to strengthen their ability to evolve autonomously and in an explainable way in uncertain environments. The capacities of each of these anticipatory learning classifier systems were evaluated through a carefully designed experimental evaluation protocol. This protocol enabled us to control the uncertainty of the environments to highlight the capabilities of the anticipatory learning classifier systems we devised. We also designed an algorithm dedicated to the extraction of knowledge that is specific to anticipatory learning classifier systems, capable of reinforcing the inherent explainability of these systems, without degrading their learning capacities and autonomy.
Nous nous sommes intéressés au développement d'une intelligence artificielle autonome et explicable pour des environnements incertains. Les tâches à résoudre par les intelligences artificielles, et plus particulièrement par les algorithmes d'apprentissage automatique, sont de plus en plus complexes : ils doivent pouvoir s'adapter et co-évoluer en autonomie avec des environnements complexes, changeants et incertains qui sont à l'image de nos environnements quotidiens. Dans le même temps, il est de plus en plus nécessaire de pouvoir expliquer les comportements de ces algorithmes, ceux-ci pouvant être amenés à prendre des décisions critiques dans des situations qui peuvent profondément impacter la vie d'un individu. Pour répondre à ce double objectif, les concepts d'autonomie et d'explicabilité des intelligences artificielles, ainsi que d'incertitude environnementale, ont été cadrés afin de guider nos choix de conception d'une intelligence artificielle d'abord vers un algorithme d'apprentissage automatique intrinsèquement explicable comme les approches à base de règles, puis vers les systèmes de classeurs à anticipation. Nous avons alors mis en place de nouveaux systèmes de classeurs à anticipation dont le but était de renforcer leurs capacités à évoluer en autonomie et de manière explicable dans des environnements incertains. Les capacités de chacun de ces systèmes de classeurs à anticipation ont été évaluées au travers d'un protocole d'évaluation expérimental que nous avons conçu. Ce protocole expérimental nous a notamment permis d'agir sur l'incertitude des environnements pour mettre en avant les capacités des systèmes de classeurs à anticipation que nous avons développés. Nous avons également conçu un algorithme d'extraction des connaissances propre aux systèmes de classeurs à anticipation capable de renforcer l'explicabilité inhérente à ces systèmes, sans détériorer leurs capacités d'apprentissage et leur autonomie.
| Origine | Version validée par le jury (STAR) |
|---|