Explainability of possibilistic and fuzzy rule-based systems - TEL - Thèses en ligne Accéder directement au contenu
Thèse Année : 2022

Explainability of possibilistic and fuzzy rule-based systems

Explicabilité des systèmes à base de règles possibilistes et floues

Résumé

Today, advances in Artificial Intelligence (AI) have led to the emergence of systems that can automate complex processes, using models that can be difficult to understand by humans. When humans use these AI systems, it is well known that they want to understand their behaviors and actions, as they have more confidence in systems that can explain their choices, assumptions and reasoning. The explanatory capability of AI systems has become a user requirement, especially in human-risk environments such as autonomous vehicles or medicine. This requirement is in line with the recent resurgence of interest for eXplainable Artificial Intelligence (abbreviated as XAI), a research field that aims to develop AI systems that are able to explain their results in a way that is comprehensible to humans. In this context, we introduce explanatory paradigms for two kinds of AI systems: a possibilistic rule-based system (where rules encode negative information) and a fuzzy rule-based system composed of possibility rules, which encode positive information. We develop a possibilistic interface between learning and if-then rule-based reasoning that establishes meeting points between Knowledge Representation and Reasoning (KRR) and Machine Learning (ML). This interface is built by generalizing the min-max equation system of Henri Farreny and Henri Prade, which was developed for the explainability of possibilistic rule-based systems. In the case of a cascade i.e., when a system uses two chained possibilistic rule sets, we show that we can represent its associated equation system by an explicit min-max neural network. This interface may allow the development of possibilistic learning methods that would be consistent with if-then rule-based reasoning. For XAI, we introduce methods for justifying the inference results of possibilistic and fuzzy rule-based systems. Our methods lead to form two kinds of explanations of an inference result of these systems: its justification and its unexpectedness (a set of logical statements that are not involved in the determination of the considered result while being related to it). Finally, we propose a graphical representation of an explanation of an inference result of a possibilistic or fuzzy rule-based system in terms of conceptual graphs. For an inference result, we represent its justification, its unexpectedness and a combination of its justification and its unexpectedness.
Aujourd'hui, les progrès de l'Intelligence Artificielle (IA) ont conduit à l'émergence de systèmes capables d'automatiser des processus complexes, en utilisant des modèles qui peuvent être difficiles à comprendre par les humains. Lorsque les humains utilisent ces systèmes d'IA, il est bien connu qu'ils veulent comprendre leurs comportements et leurs actions, car ils ont davantage confiance dans les systèmes qui peuvent expliquer leurs choix, leurs hypothèses et leurs raisonnements. La capacité d'explication des systèmes d'IA est devenue une exigence des utilisateurs, en particulier dans les environnements à risque pour l'homme, comme les véhicules autonomes ou la médecine. Cette exigence reflète le récent regain d'intérêt pour l'intelligence artificielle eXplicable (abrégée en XAI), un domaine de recherche qui vise à développer des systèmes d'IA capables d'expliquer leurs résultats d'une manière compréhensible pour les humains. Dans ce contexte, nous introduisons des paradigmes explicatifs pour deux types de systèmes d'IA : un système à base de règles possibilistes (où les règles encodent des informations négatives) et un système à base de règles floues composé de règles à possibilité, qui encodent des informations positives. Nous développons une interface possibiliste entre l'apprentissage et le raisonnement basé sur des règles si-alors qui établit des points de rencontre entre Knowledge Representation and Reasoning (KRR) et Machine Learning (ML). Cette interface est construite en généralisant le système d'équations min-max de Henri Farreny et Henri Prade, qui a été développé pour l'explicabilité des systèmes à base de règles possibilistes. Dans le cas d'une cascade, c'est-à-dire lorsqu'un système utilise deux ensembles de règles possibilistes chaînés, nous montrons que nous pouvons représenter son système d'équations associé par un réseau de neurones min-max explicite. Cette interface peut permettre le développement de méthodes d'apprentissage possibilistes qui seraient cohérentes avec le raisonnement à base de règles. Pour XAI, nous introduisons des méthodes pour justifier les résultats d'inférence des systèmes à base de règles possibilistes et floues. Nos méthodes conduisent à former deux types d'explications d'un résultat d'inférence de ces systèmes : sa justification et son caractère inattendu (un ensemble d'énoncés logiques qui ne sont pas impliqués dans la détermination du résultat considéré tout en étant liés à celui-ci). Enfin, nous proposons une représentation graphique de l'explication d'un résultat d'inférence d'un système à base de règles possibilistes ou floues en termes de graphes conceptuels. Pour un résultat d'inférence, nous représentons sa justification, son caractère inattendu et une combinaison de sa justification et de son caractère inattendu.
Fichier principal
Vignette du fichier
BAAJ_Ismail_2022.pdf (1.07 Mo) Télécharger le fichier
Origine : Version validée par le jury (STAR)

Dates et versions

tel-03647652 , version 1 (20-04-2022)

Identifiants

  • HAL Id : tel-03647652 , version 1

Citer

Ismaïl Baaj. Explainability of possibilistic and fuzzy rule-based systems. Artificial Intelligence [cs.AI]. Sorbonne Université, 2022. English. ⟨NNT : 2022SORUS021⟩. ⟨tel-03647652⟩
503 Consultations
348 Téléchargements

Partager

Gmail Facebook X LinkedIn More