Active and Incremental Deep learning with class imbalanced data - TEL - Thèses en ligne Accéder directement au contenu
Thèse Année : 2022

Active and Incremental Deep learning with class imbalanced data

Apprentissage profond actif et incrémental avec des données de classes déséquilibrées

Résumé

Deep learning approaches have been successful in a large range of AI problems and in particular for visual recognition tasks. The performance of deep learning models is directly linked to the amount and the quality of data available to train them. Though large and perfect labeled datasets are available for academic research, the real world application datasets have several issues such as class imbalance, annotation cost as well as dynamic nature of the dataset in some applications.In our work, we perform a joint study of these issues to tackle a more practical scenario.In particular, we study iterative learning schemes in the context of two different but real-word settings. In the first setting we consider a dynamic annotation process in which data from a same domain is annotated over time. In our second setting, we consider dynamic domains where new classes can be added to the data over time.Our proposition is to leverage deep iterative learning schemes such as active learning for the first setting and incremental learning for the second setting while taking into account the imbalance nature of real-world datasets.Our first contributions are tailored from the active learning scheme in which only a limited annotation budget is considered.In our first contribution, a hard cold start setting is considered in which no initial labeled setting is available. We thus propose a single stage active learning scheme in which a good embedding model is first learned on a source domain (for which large annotated dataset is available) and then reused in the selection of instances to annotate in the unsupervised dataset of the target domain.In our second contribution, we assume the availability of an initial labeled dataset in the target domain (soft cold start problem) and we propose a deep active learning scheme that follows the classical iterative setting in which samples are progressively annotated to update the learned model.In the class incremental setting, we study the dynamic nature of datasets, which are assumed to contain class imbalance. The main contribution here is to perform a detailed study of imbalanced incremental learning with focus on calibration methods whose objective is to reduce the prediction bias between majority and minority classes. We also propose two novel calibration methods and compare their performance to the existing ones. We conclude that the incremental learning problem with a fixed-budget memory for the previously learnt classes can be effectively treated as a class imbalance learning problem.
Les approches d'apprentissage profond sont très performantes aujourd'hui dans un large éventail de problèmes et en particulier pour les tâches de reconnaissance visuelle. Leur performance est directement liée à la quantité et à la qualité des données disponibles pour les entraîner. Bien que de grands ensembles de données, parfaitement étiquetées, soient disponibles à des fins académiques, les jeux de données du monde réel présentent plusieurs problèmes tels que le non-équilibre des classes, leur coût d'annotation ainsi que leur caractère dynamique dans un grand nombre d'applications.Dans cette thèse, nous nous intéressons aux limitations des approches d'apprentissage profond supervisées dans ce contexte.En particulier, nous étudions des schémas d'apprentissage itératif dans deux situations différentes. Dans le premier cas, nous considérons un processus d'annotation dynamique dans lequel les données d'un même domaine sont annotées au fil du temps. Dans le deuxième cas, nous considérons des domaines dynamiques où de nouvelles classes peuvent être ajoutées aux données au fil du temps.Notre proposition est d'exploiter des schémas d'apprentissage itératifs profonds tels que l'apprentissage actif pour le premier cas et l'apprentissage incrémental pour le second cas, tout en tenant compte de la nature non-équilibrée des ensembles de données du monde réel.Nous proposons plusieurs contributions adaptées au premier cas à l'aide d'un schéma d'apprentissage actif dans lequel un budget d'annotation limité est considéré.Dans notre première contribution, nous considérons le cas difficile du démarrage à froid dans lequel nous ne disposons pas de jeu de données initial labélisé permettant d'initier le processus d'apprentissage actif. Nous proposons donc un schéma d'apprentissage actif en une seule étape dans lequel un modèle est d'abord appris sur un domaine source (pour lequel un grand ensemble de données annotées est disponible) et ensuite réutilisé pour la sélection d'instances à annoter dans l'ensemble de données non supervisées du domaine cible.Dans notre deuxième contribution, nous supposons la disponibilité d'un jeu de données étiquetées initial dans le domaine cible et nous proposons un schéma d'apprentissage actif profond qui suit le cadre itératif classique dans lequel les échantillons sont progressivement annotés pour mettre à jour le modèle appris.Pour le deuxième cas, nous nous plaçons dans un cadre d'apprentissage incremental. La principale contribution ici est d'effectuer une étude détaillée de l'apprentissage incrémental déséquilibré en se concentrant sur les méthodes de calibration dont l'objectif est de réduire le biais de prédiction entre les classes majoritaires et minoritaires. Nous proposons également deux nouvelles méthodes de calibration et comparons leurs performances à celles des méthodes existantes. Nous concluons que le problème d'apprentissage incrémental avec une mémoire à budget fixe pour les classes précédemment apprises peut être traité efficacement comme un problème d'apprentissage de déséquilibre de classe.
Fichier principal
Vignette du fichier
2022UPAST027_AGGARWAL_archivage.pdf (8.11 Mo) Télécharger le fichier
Origine : Version validée par le jury (STAR)

Dates et versions

tel-03701927 , version 1 (22-06-2022)

Identifiants

  • HAL Id : tel-03701927 , version 1

Citer

Umang Aggarwal. Active and Incremental Deep learning with class imbalanced data. Signal and Image processing. Université Paris-Saclay, 2022. English. ⟨NNT : 2022UPAST027⟩. ⟨tel-03701927⟩
181 Consultations
276 Téléchargements

Partager

Gmail Facebook X LinkedIn More