Adversarial mitigation to reduce unwanted biases in machine learning - TEL - Thèses en ligne Access content directly
Theses Year : 2022

Adversarial mitigation to reduce unwanted biases in machine learning

Réduire les biais indésirables en apprentissage automatique par atténuation adverse

Vincent Grari
  • Function : Author
  • PersonId : 1178630
  • IdRef : 26491144X

Abstract

The past few years have seen a dramatic rise of academic and societal interest in fair machine learning. As a result, significant work has been done to include fairness constraints in the training objective of machine learning algorithms. Its primary purpose is to ensure that model predictions do not depend on any sensitive attribute as gender or race, for example. Although this notion of independence is incontestable in a general context, it can theoretically be defined in many different ways depending on how one sees fairness. As a result, many recent papers tackle this challenge by using their "own" objectives and notions of fairness. Objectives can be categorized in two different families: Individual and Group fairness. This thesis gives an overview of the methodologies applied in these different families in order to encourage good practices. Then, we identify and complete gaps by presenting new metrics and new Fair-ML algorithms that are more appropriate for specific contexts.
Ces dernières années, on a assisté à une augmentation spectaculaire de l’intérêt académique et sociétal pour l’apprentissage automatique équitable. En conséquence, des travaux significatifs ont été réalisés pour inclure des contraintes d’équité dans les algorithmes d’apprentissage automatique. Le but principal est de s’assurer que les prédictions des modèles ne dépendent d’aucun attribut sensible comme le genre ou l’origine d’une personne par exemple. Bien que cette notion d’indépendance soit incontestable dans un contexte général, elle peut théoriquement être définie de manière totalement différente selon la façon dont on voit l’équité. Par conséquent, de nombreux articles récents abordent ce défi en utilisant leurs "propres" objectifs et notions d’équité. Les objectifs sont catégorisés en deux familles différentes : L’équité individuelle et l’équité de groupe. Cette thèse donne d’une part, une vue d’ensemble des méthodologies appliquées dans ces différentes familles afin d’encourager les bonnes pratiques. Ensuite, nous identifions et complétons les lacunes en présentant de nouvelles métriques et des algorithmes de machine learning équitables qui sont plus appropriés pour des contextes spécifiques.
Fichier principal
Vignette du fichier
GRARI_Vincent_2022_these.pdf (8.47 Mo) Télécharger le fichier
Origin Version validated by the jury (STAR)

Dates and versions

tel-03828400 , version 1 (25-10-2022)

Identifiers

  • HAL Id : tel-03828400 , version 1

Cite

Vincent Grari. Adversarial mitigation to reduce unwanted biases in machine learning. Artificial Intelligence [cs.AI]. Sorbonne Université, 2022. English. ⟨NNT : 2022SORUS096⟩. ⟨tel-03828400⟩
240 View
291 Download

Share

Gmail Mastodon Facebook X LinkedIn More