Modeling the Latent Space of Variational Autoencoders - TEL - Thèses en ligne Accéder directement au contenu
Thèse Année : 2023

Modeling the Latent Space of Variational Autoencoders

Modélisation et structuration de l’espace latent des Variational Auto-Encoders

Résumé

This PhD thesis focuses on the modeling and structuring of the latent space of Variational Autoencoder models. The latter are probabilistic models called generative models since their objective is to be able to generate new synthetic data from a set of training data. One of the particularities of these models is the existence of a space of lower dimension than the one in which the input data are considered called a latent space. The understanding and the study of this space remain incomplete, and this thesis aims at bringing a better understanding of its structure and how to exploit it for downstream tasks. Through the use of Riemannian geometry tools, I will propose different modelings of the latent space of the variational autoencoder, which will first lead us to build a new estimator of the log-likelihood of the model. The study of this geometry will also lead us to consider and propose new sampling methods to generate new data that will prove to be well suited to contexts with a small number of data which are known to be very challenging for these models. A task known as data augmentation and consisting in the creation of synthetic data to enrich existing databases will, in particular, be one of the major applications of the models I will develop. For example, I will apply our methods to improve the performance of classification models on real and complex data such as three-dimensional brain MRIs. During this thesis, I will also develop several software allowing easy and open use of such models. Finally, I will also be interested in the modeling of longitudinal data, i.e. data that share a temporal dependency, such as patient follow-up but whose number of observations per entity remains low (typically less than 10 observations per entity). In particular, I will introduce models capable of generating complete synthetic trajectories.
Cette thèse de doctorat s’intéresse à la modélisation et à la structuration de l’espace latent des modèles de type auto-encodeur variationnel. Ces derniers sont des modèles probabilistes dits génératifs car ils ont pour objectif d’être capables de générer de nouvelles données synthétiques à partir d’un ensemble d’entraînement. Une des particularités de ces modèles est l’existence d’un espace de plus faible dimension que celui dans lequel les données d’entrée sont considérées et que l’on appelle espace latent. La compréhension et l’étude de cet espace restent lacunaires et cette thèse a pour objective d’essayer d’apporter une meilleur compréhension de sa structure et de la façon de l’exploiter pour des tâches annexes. À travers l’utilisation d’outils de géométrie Riemannienne, nous proposerons différentes modélisations de l’espace latent des auto-encodeurs variationnels qui nous conduirons premièrement à construire un nouvel estimateur de la log-vraisemblance du modèle. L’étude de cette géométrie nous mènera également à considérer et à proposer de nouvelles méthodes d’échantillonnage de nouvelles données qui s’avéreront très adaptées à des contextes à faible nombre de données, connus pour être très limitant pour ces types de modèles. Une tâche connue sous le nom d’augmentation de données et consistant en la création de données synthétiques pour enrichir les bases de données existantes nous occupera tout particulièrement et sera l’une des applications majeures des modèles que nous développerons. Par exemple, nous appliquerons notre méthode pour améliorer la performance de modèles de classification sur des données réelles et complexes telles que des IRMs tri-dimensionnelles de cerveaux. Au cours de cette thèse, nous développerons également plusieurs outils informatiques permettant un usage facilité et ouvert au plus grand nombre de tels modèles. Enfin, nous nous intéresserons également aux données dites longitudinales, c’est à dire des données qui partagent une dépendance temporelle forte tel que le suivi de patients, mais dont le nombre d’observations par entité reste faible (typiquement moins de 10 observations par entité). En particulier, nous introduirons des modèles capables de générer des trajectoires synthétiques complètes.
Fichier principal
Vignette du fichier
main.pdf (63.06 Mo) Télécharger le fichier
Origine Fichiers produits par l'(les) auteur(s)

Dates et versions

tel-04608330 , version 1 (11-06-2024)

Identifiants

  • HAL Id : tel-04608330 , version 1

Citer

Clément Chadebec. Modeling the Latent Space of Variational Autoencoders. Machine Learning [stat.ML]. Université Paris Cite, 2023. English. ⟨NNT : ⟩. ⟨tel-04608330⟩
0 Consultations
0 Téléchargements

Partager

Gmail Mastodon Facebook X LinkedIn More