High-dimensional data and graph clustering with discrete latent variable models
Classification non-supervisée de données de grande dimension et de graphes à l'aide de modèles à variables latentes discrètes
Résumé
This thesis proposes three original contributions for the clustering of particular types of data: multivariate continuous and count data, and also networks. First, a new algorithm for the clustering of high-dimensional count data is described, showing a real advantage over competing approaches, especially in small sample size settings. A medical application is detailed, with the clustering of anatomopathological text reports from Institut Curie hospital. Then, a new Gaussian mixture model for high-dimensional continuous data is presented, along with a clustering algorithm relying on unsupervised linear discriminant analysis. The latter compares favorably to state-of-the-art approaches on simulated and real-data benchmarks, and potential extensions are discussed. We finish by proposing a two-fold methodology for hierarchical clustering, based on an exact version of the integrated classification likelihood (ICL). The first part consists in improving existing greedy heuristics, using a carefully designed genetic algorithm to reduce sensitivity to local maxima of the exact ICL. Then, we consider a new asymptotic approximation of the latter giving rise to a hierarchical strategy, merging the clusters obtained from the first algorithm. We show how this approach is generically applicable in any discrete latent variable model for which exact ICL are tractable, and we detail derivations for standard ones. Simulations and real-datasets applications demonstrate the interest of this methodology, in particular for statistical network analysis.
Cette thèse propose trois contributions orignales pour le clustering de données spécifiques : les données multivariées continues et de comptage, ainsi que les réseaux. Dans un premier temps, nous introduisons un nouvel algorithme pour le clustering de données de comptage en grande dimension. Ce dernier affiche de bonnes performances comparé aux approches similaires, notamment avec un faible nombre d'échantillons. Nous présentons également une application en clustering de rapports médicaux d'anatomopathologie, en collaboration avec l'Institut Curie. Ensuite, nous proposons un nouveau modèle de mélange Gaussien pour les données de grande dimension, ainsi qu'un algorithme de clustering basé sur une version non-supervisée de l'analyse factorielle discriminante. Les résultats sur données simulées et réelles montrent un réel avantage de notre méthode comparé à l'état de l'art, et des perspectives de généralisation sont proposées. Enfin, nous proposons un algorithme de clustering hiérarchique utilisant une version exacte de la vraisemblance classifiante intégrée, aussi appelée ICL exacte. Cette dernière contribution est double, consistant d'abord en un algorithme génétique permettant d'améliorer les heuristiques existantes, basées sur la maximisation d'un critère ICL exacte par recherche locale et gloutonne. Nous introduisons ensuite une nouvelle approximation asymptotique de ce critère, ainsi qu'une heuristique de clustering hiérarchique permettant de fusionner les clusters obtenus par le premier algorithme. Nous montrons comment cette approche est générique, applicable à tout modèle à variables latentes discrètes pour lequel l'ICL exacte est calculable.
| Origine | Fichiers produits par l'(les) auteur(s) |
|---|