Thèse Année : 2024

How AI classifications impact us : explaining AI in financial services and job advertising, from technical solutions to ethical issues

Comment l'IA nous classe : expliquer l'IA dans les services financiers et la recherche d'emploi, des solutions techniques aux enjeux éthiques

Thomas Souverain
  • Fonction : Auteur
  • PersonId : 1514267
  • IdRef : 283447958

Résumé

This thesis explores the notion of explainable AI (XAI), involving data-science and philosophy. Thanks to industrial partnerships, we focus on two use cases where AI classifications are deployed, and impact humans on a daily basis: loan granting (partnership with the company DreamQuark) and warnings on illegal job offers (partnership with the French Employment Agency, France Travail). We begin with a critical lens on techniques used to explain AI classifications (the what of explanation). Building our own package, we then examine how classification bias can be mitigated in loan lending, to obtain a fair outcome (the what for of explanation). Finally, we empirically investigate how users of AI interact with algorithmic recommendations, and how these interactions can be optimized (for whom to explain). We argue that explainability solutions are merely the basis of a description which must incorporate causality, fairness, and intelligibility in order to effectively explain AI.

Au croisement de la data-science et de la philosophie, cette thèse CIFRE mène une recherche sur la notion d'IA explicable (XIA), centrée sur deux cas d'usage qui touchent l'un aux recommandations de l'IA sur l'octroi de prêts (partenariat DreamQuark), l'autre concernant la vérification par l'IA de la légalité des offres d'emploi (partenariat France Travail). La thèse présente d'abord un panorama critique des techniques d'explicabilité en IA (le quoi de l'explication). Elle examine ensuite en construisant un package, la manière dont les biais de classification de l'IA sont susceptibles d'être corrigés dans le cas de l'octroi de crédit, afin d’obtenir une décision juste (le pourquoi de l'explication). Elle explore enfin comment sur le terrain, les usagers de l'IA interagissent avec les recommandations algorithmiques, et comment optimiser ces interactions (pour qui expliquer). Nous défendons ainsi que les solutions d’explicabilité ne sont que la base d’un discours qui doit intégrer causalité, justice, et intelligibilité, pour effectivement expliquer l’IA.

Fichier principal
Vignette du fichier
Souverain_2024_These.pdf (9.58 Mo) Télécharger le fichier
Origine Version validée par le jury (STAR)
Licence

Dates et versions

tel-04971895 , version 1 (28-02-2025)

Licence

Identifiants

  • HAL Id : tel-04971895 , version 1

Citer

Thomas Souverain. Comment l'IA nous classe : expliquer l'IA dans les services financiers et la recherche d'emploi, des solutions techniques aux enjeux éthiques. Philosophie. Université Paris sciences et lettres, 2024. Français. ⟨NNT : 2024UPSLE010⟩. ⟨tel-04971895⟩
592 Consultations
757 Téléchargements

Partager

  • More