Modéles formels pour l’IA explicable : des explications pour les arbres de décision - TEL - Thèses en ligne
Thèse Année : 2023

Formal Models for Explainable AI: Explanations for Decision Trees

Modéles formels pour l’IA explicable : des explications pour les arbres de décision

Résumé

The need and motivation for Explainable Artificial Intelligence (XAI) can be summarized by two main objectives : justification and validation. Explanations serve to justify the outcomes of a machine learning model by providing a rationale for the model’s decision-making process. Once explanations are extracted, it is crucial to validate their validity to ensure they align with the intentions and expectations of the user of the AI system in question that is considered. In this thesis, we have primarily focused on generation methods for post-hoc local explanations. We started by examining the computational intelligibility of Boolean classifiers, characterized by their ability to address XAI queries in polynomial time. We have shown that the computational intelligibility of decision trees overcomes that of numerous machine learning models, which subsequently led us to focus on decision trees as an machine learning model. We have investigated the capacity of decision trees to derive, minimize, and calculate abductive and contrastive explanations. We have shown that the set of all sufficient reasons for an instance can be exponentially large, making the generation of the entire set difficult, if not impossible. Furthermore, two sufficient reasons for the same instance can differ significantly. In an attempt to synthesize the set of all sufficient reasons for an instance, we have introduced the concepts of necessary features and relevant features, as well as the concept of explanatory power of a feature. To reduce the number of explanations provided to the user, we have also developed preference models and algorithms to generate explanations that leverage user’s preferences. This approach offers several advantages. By taking preferences into account, we can search for abductive explanations that are suited to the user, while significantly reducing their quantity. However, even when considering only the preferred ones abductive explanations can be too large to be interpretable by humans due to their cognitive limitations. To address this issue, we have tackled the challenge of reducing the size of explanations while maintaining a high probability of prediction. This problem is generally hard, even for decision trees. To overcome this difficulty, we have explored the approximation of probabilistic explanations using the concept of supermodularity. We have developed two greedy algorithms (GA and GD) for supermodular minimization. The effectiveness of these algorithms depends on the curvature of the non-normalized error function, which measures the accuracy of the explanation. Empirically, we demonstrated the efficiency of these two algorithms.
Le besoin et la motivation pour l’intelligence artificielle explicable (XAI) peuvent être résumés en deux objectifs principaux : justification et validation. Les explications permettent de justifier les résultats d’un modèle d’apprentissage automatique en fournissant un motif du raisonnement suivi par le modèle. Une fois que les explications sont extraites, il est essentiel de vérifier la validité de ces explications pour s’assurer qu’elles correspondent aux intentions et aux attentes de l’utilisateur du système d’IA considéré. Dans cette thèse, nous avons développé des méthodes de génération d’explications locales post-hoc. Nous avons commencé par étudier l’intelligibilité computationnelle des classifieurs booléens, caractérisée par leur capacité à répondre aux requêtes d’explicabilité en temps polynomial. Nous avons montré que l’intelligibilité computationnelle des arbres de décision est supérieure à celle de nombreux modèles d’apprentissage automatique, ce qui nous a conduit par la suite à nous focaliser sur les arbres de décision comme modèle d’apprentissage. Nous avons étudié la capacité des arbres de décision à extraire, minimiser et compter les explications abductives et contrastives. Nous avons montré que l’ensemble complet des raisons suffisantes pour une instance peut être de taille exponentielle, rendant ainsi difficile, voire impossible, la génération de l’ensemble complet. De plus, deux raisons suffisantes pour une même instance peuvent différer de manière significative. Pour tenter de synthétiser l’ensemble des raisons suffisantes pour une instance, nous avons introduit les concepts d’attribut nécessaire et d’attribut pertinent, ainsi que le concept de pouvoir explicatif d’un attribut. Pour réduire le nombre d’explications à fournir à l’utilisateur, nous avons aussi développé des modèles de préférence et des algorithmes pour générer des explications exploitant ces préférences. Cette démarche présente plusieurs avantages. En prenant en compte ces préférences, nous pouvons rechercher des explications abductives qui conviennent à l’utilisateur tout en réduisant considérablement leur nombre. Cependant, même quand on se restreint aux explications préférées, les explications abductives peuvent être de trop grande taille pour être interprétables par les humains en raison des limitations cognitives de ces derniers. Nous avons donc abordé le défi de réduire la taille des explications tout en maintenant une probabilité élevée de prédiction exacte. Ce problème est difficile en général, même pour les arbres de décision. Pour surmonter cette difficulté, nous avons exploré l’approximation des explications probabilistes en utilisant le concept de super-modularité. Nous avons développé deux algorithmes gloutons (GA et GD) pour la minimisation super-modulaire. L’efficacité de ces algorithmes dépend de la courbure de la fonction d’erreur non normalisée qui mesure la précision de l’explication. Empiriquement, nous avons montré l’efficacité de ces algorithmes.
Fichier principal
Vignette du fichier
Manuscrit thése.pdf (2.5 Mo) Télécharger le fichier
Origine Fichiers produits par l'(les) auteur(s)

Dates et versions

tel-04662533 , version 1 (26-07-2024)

Identifiants

  • HAL Id : tel-04662533 , version 1

Citer

Louenas Bounia. Modéles formels pour l’IA explicable : des explications pour les arbres de décision. Intelligence artificielle [cs.AI]. Université d'Artois, 2023. Français. ⟨NNT : ⟩. ⟨tel-04662533⟩
72 Consultations
50 Téléchargements

Partager

More