Counterfactual models for hair and explainable machine learning : a mass transportation approach
Modèles contrefactuels pour un apprentissage machine explicable et juste : une approche par transport de masse
Résumé
The spread of automatic decision rules based on machine learning has raised grave ethical concerns due to their lack of interpretability and their automatization of human discriminatory biases. This issue sparked the research field of trustworthy artificial intelligence which focuses on the development of fair and explainable machine-learning algorithms. This thesis contributes to this initiative by studying fairness and explainability through the prism of counterfactual reasoning: a modality devoted to queries such as "Had she been a man, would have he been granted the loan?". The first chapter serves as an introduction to counterfactual frameworks in machine learning and clarifies common misconceptions. The second chapter develops the theoretical foundations for implementing this reasoning using mass-transportation methods such as optimal transport and diffeomorphic registration. In contrast to state-of-the-art methods, this approach returns counterfactual statements that are simultaneously computationally feasible of semantically realistic, crucially allowing a wider deployment of counterfactual methodologies for fairness and explainability. The third and fourth chapter are self-sufficient but motivated by the practical aspects of this mass-transportation viewpoint to counterfactual reasoning: they address the statistical estimation of transport models. The third chapter introduces a GAN estimator of Lipschitz optimal transport maps along with unique statistical guarantees for such a neural-network-based approximation. The fourth chapter deals with diffeomorphic registration, grounding theoretically and computationally diffeomorphic mass transportation driven by Sinkhorn divergences (entropy-regularized optimal-transport discrepancies).
La propagation de règles de décision automatiques basées sur l'apprentissage machine a soulevé de graves préoccupations éthiques en raison de leur manque d'interprétabilité et de leur automatisation des biais discriminatoires humains. Ce problème a donné naissance à la recherche en l'intelligence artificielle digne de confiance, qui traite du développement d'algorithmes d'apprentissage automatique équitables et explicables. Cette thèse contribue à cette initiative en étudiant l'équité et l'explicabilité à travers le prisme du raisonnement contrefactuel : une modalité consacrée à des requêtes telles que "Si elle avait été un homme, lui aurait-on accordé le prêt ?". Le premier chapitre sert d'introduction aux méthodologies contrefactuelles dans l'apprentissage automatique et clarifie des idées reçues courantes. Le deuxième chapitre développe les fondements théoriques de la mise en œuvre de ce raisonnement à l'aide de méthodes de transport de masse telles que le transport optimal et l'appariemment difféomorphique. Contrairement aux méthodes standards, cette approche renvoie des énoncés contrefactuels qui sont à la fois implémentable d'un point de vue informatique et réalistes d'un point de vue sémantique, ce qui permet un déploiement plus large des méthodologies contrefactuelles pour l'équité et l'explicabilité. Les troisième et quatrième chapitres sont autonomes mais motivés par les aspects pratiques de ce point de vue par transport de masse du raisonnement contrefactuel : ils traitent de l'estimation statistique des modèles de transport. Le troisième chapitre présente un estimateur GAN d'applications de transport optimales Lipschitz accompagné de garanties statistiques uniques pour une telle approximation basée sur des réseaux de neurones. Le quatrième chapitre traite de l'appariemment difféomorphique, en fondant théoriquement et numériquement le transport de masse difféomorphique piloté par les divergences de Sinkhorn (des divergences de transport optimal entropique).
| Origine | Version validée par le jury (STAR) |
|---|