How AI classifications impact us : explaining AI in financial services and job advertising, from technical solutions to ethical issues
Comment l'IA nous classe : expliquer l'IA dans les services financiers et la recherche d'emploi, des solutions techniques aux enjeux éthiques
Résumé
This thesis explores the notion of explainable AI (XAI), involving data-science and philosophy. Thanks to industrial partnerships, we focus on two use cases where AI classifications are deployed, and impact humans on a daily basis: loan granting (partnership with the company DreamQuark) and warnings on illegal job offers (partnership with the French Employment Agency, France Travail). We begin with a critical lens on techniques used to explain AI classifications (the what of explanation). Building our own package, we then examine how classification bias can be mitigated in loan lending, to obtain a fair outcome (the what for of explanation). Finally, we empirically investigate how users of AI interact with algorithmic recommendations, and how these interactions can be optimized (for whom to explain). We argue that explainability solutions are merely the basis of a description which must incorporate causality, fairness, and intelligibility in order to effectively explain AI.
Au croisement de la data-science et de la philosophie, cette thèse CIFRE mène une recherche sur la notion d'IA explicable (XIA), centrée sur deux cas d'usage qui touchent l'un aux recommandations de l'IA sur l'octroi de prêts (partenariat DreamQuark), l'autre concernant la vérification par l'IA de la légalité des offres d'emploi (partenariat France Travail). La thèse présente d'abord un panorama critique des techniques d'explicabilité en IA (le quoi de l'explication). Elle examine ensuite en construisant un package, la manière dont les biais de classification de l'IA sont susceptibles d'être corrigés dans le cas de l'octroi de crédit, afin d’obtenir une décision juste (le pourquoi de l'explication). Elle explore enfin comment sur le terrain, les usagers de l'IA interagissent avec les recommandations algorithmiques, et comment optimiser ces interactions (pour qui expliquer). Nous défendons ainsi que les solutions d’explicabilité ne sont que la base d’un discours qui doit intégrer causalité, justice, et intelligibilité, pour effectivement expliquer l’IA.
| Origine | Version validée par le jury (STAR) |
|---|---|
| Licence |
