Analyzing and explaining data-driven Artificial Intelligence Models by argumentation
Analyse et explication par des techniques d'argumentation de modèles d'intelligence artificielle basés sur des données
Abstract
Classification is a very common task in Machine Learning (ML) and the ML models created to perform this task tend to reach human comparable accuracy, at the cost of transparency. The surge of such AI-based systems in the public's daily life has created a need for explainability. Abductive explanations are one of the most popular types of explanations that are provided for the purpose of explaining the behavior of complex ML models sometimes considered as black-boxes. They highlight feature-values that are sufficient for the model to make a prediction. In the literature, they are generated by exploring the whole feature space, which is unreasonable in practice. This thesis tackles this problem by introducing explanation functions that generate abductive explanations from a sample of instances. It shows that such functions should be defined with great care since they cannot satisfy two desirable properties at the same time, namely existence of explanations for every individual decision (success) and correctness of explanations (coherence). This thesis provides a parameterized family of argumentation-based explanation functions, each of which satisfies one of the two properties. It studies their formal properties and their experimental behaviour on different datasets.
La classification est une tâche très courante dans le domaine de l'apprentissage automatique et les modèles d'apprentissage automatique créés pour accomplir cette tâche tendent à atteindre une précision comparable à celle des humains, au détriment de leur transparence. L'apparition de ces systèmes intelligents dans le quotidien du public a créée un besoin d'explicabilité. Les explications abductives sont l'un des types d'explications les plus populaires qui sont fournies dans le but d'expliquer le comportement de modèles d'apprentissage complexes, parfois considérés comme des boîtes noires. Elles mettent en évidence les caractéristiques qui sont suffisantes pour que le modèle prédise une certaine classe. Dans la littérature, elles sont générées en explorant l'ensemble de l'espace des caractéristiques, ce qui n'est pas raisonnable en pratique. Cette thèse aborde ce problème en introduisant des fonctions d'explication qui génèrent des explications abductives à partir d'un échantillon arbitraire d'instances. Elle montre que de telles fonctions doivent être définies avec beaucoup de soin car elles ne peuvent pas satisfaire simultanément deux propriétés souhaitables, à savoir l'existence d'explications pour chaque décision individuelle (success) et l'exactitude des explications (coherence). Cette thèse fournit une collection de fonctions d'explication paramétrées basées sur l'argumentation, chacune satisfaisant l'une des ces deux propriétés. De plus, elle étudie leurs propriétés formelles ainsi que leur comportement expérimental sur différents ensembles de données.
Origin | Version validated by the jury (STAR) |
---|