Trustworthy machine learning : explainability and distribution-free uncertainty quantification
Apprentissage automatique fiable : explicabilité et quantification d'incertitude sans hypothèse de distribution
Résumé
The main objective of this thesis is to increase trust in Machine Learning models by developing tools capable of explaining their predictions and quantifying the associated uncertainty. The first part of this thesis focuses on local explanation methods. We first highlight the limitations of existing estimators of Shapley Values for tree-based models and the issues related to their use with categorical variables. After proposing solutions to these problems, we demonstrate the unreliability of Shapley Values and the LIME method in providing local explanations. Subsequently, we introduce novel explanation techniques, including importance measures, selection of important variable subsets, local decision rules, counterfactual actions, and rule-based counterfactuals. All the proposed methods are "model-free," meaning they do not require access to the underlying model to make predictions. Furthermore, they do not involve generating new observations, thus avoiding the extrapolation problems inherent in most existing methods that rely on predictions using implausible or impossible observations created by randomly combining variable values from multiple instances. Moreover, the proposed methods stand out from the diverse heuristics found in the literature by offering precise definitions of the involved quantities accompanied by consistency results. In the second part of the thesis, we analyze conformal prediction, which allows for constructing predictive intervals with non-asymptotic coverage guarantees based solely on the assumption of exchangeability. We propose a method to make these intervals more adaptive and ensure coverage rates given a single calibration set.
Le principal objectif de cette thèse est d'accroître la confiance dans les modèles de Machine Learning en développant des outils capables d'expliquer leurs prédictions et de quantifier l'incertitude qui y est associée. La première partie de cette thèse se concentre sur les méthodes d'explication locales. Nous mettons d'abord en évidence les limites des estimateurs existants des indices de Shapley pour les modèles basés sur les arbres de décision, ainsi que les problèmes liés à leur utilisation en présence de variables catégorielles. Après avoir proposé des solutions à ces problèmes, nous démontrons que les indices de Shapley et la méthode LIME ne sont pas fiables pour fournir des explications locales. Nous introduisons ensuite de nouvelles méthodes d'explication, sous forme de mesures d'importance, de sélection de sous-ensembles de variables importantes, de règles de décision locales, d'action contrefactuelles et de contrefactuels basés sur des règles de décision. Toutes les méthodes que nous proposons sont "model-free", c'est-à-dire qu'elles n'ont pas besoin d'avoir accès au modèle pour effectuer des prédictions. De plus, elles n'impliquent pas la génération de nouvelles observations, évitant ainsi les problèmes d'extrapolation inhérents aux méthodes existantes qui se basent sur des prédictions utilisant des observations improbables ou impossibles, générées en combinant de manière aléatoire les attributs des variables provenant de multiples observations. En outre, les méthodes proposées se distinguent des différentes heuristiques que l'on trouve dans la littérature, car les quantités qui les définissent sont clairement définies et sont accompagnées de résultats de consistance. Dans la deuxième partie, nous analysons la prédiction conforme, qui permet de construire des intervalles prédictifs avec une garantie de couverture non asymptotique, en se basant uniquement sur l'hypothèse d'échangeabilité des observations. Nous proposons une méthode pour rendre ces intervalles plus adaptatifs, tout en garantissant le taux de couverture conditionnellement à un jeu de calibration donné.
| Origine | Version validée par le jury (STAR) |
|---|