Contributions to Hidden Markov Models: metaheuristics for training, new models and dissimilarity visualization
Contributions aux Modèles de Markov Cachés : métaheuristiques d'apprentissage, nouveaux modèles et visualisation de dissimilarité
Résumé
In this PhD thesis, we present many contributions aimed at the improvement on the utilization of hidden Markov Models (HMMs) in artificial intelligence systems. We considered three main objectives :
improving HMM training, experimenting a new HMM and visualizing interaction among HMMs. In the first part, we propose, evaluate and compare many new adaptations of classic biomimetic meta-
heuristics (genetic algorithms, API artificial ants algorithm, particle swarm optimization) applied to the problem of HMMs training. In the second part, we propose a new kind of HMM which we named symbols substitution hidden Markov models (SSHMMs). A SSHMM allows an expert to incorporate a priori knowledge in the training and the recognition tasks. First experiments with such models show that SSHMMs are of great interests at least for images learning and recognition. In the third part,
we propose a new visualization technique to tackle dissimilarity. This technique, which we named the pseudo-euclidean scatterplots matrix (PESM), allows a better understanding of interaction between
HMMs. This PESM is built from techniques which we named indefinite kernel principal component analysis (IKPCA). Finally, our research concludes with the description of the HMMTK software library
developed along this work. The library integrates parallelization mechanisms and algorithms developed during the thesis.
improving HMM training, experimenting a new HMM and visualizing interaction among HMMs. In the first part, we propose, evaluate and compare many new adaptations of classic biomimetic meta-
heuristics (genetic algorithms, API artificial ants algorithm, particle swarm optimization) applied to the problem of HMMs training. In the second part, we propose a new kind of HMM which we named symbols substitution hidden Markov models (SSHMMs). A SSHMM allows an expert to incorporate a priori knowledge in the training and the recognition tasks. First experiments with such models show that SSHMMs are of great interests at least for images learning and recognition. In the third part,
we propose a new visualization technique to tackle dissimilarity. This technique, which we named the pseudo-euclidean scatterplots matrix (PESM), allows a better understanding of interaction between
HMMs. This PESM is built from techniques which we named indefinite kernel principal component analysis (IKPCA). Finally, our research concludes with the description of the HMMTK software library
developed along this work. The library integrates parallelization mechanisms and algorithms developed during the thesis.
Dans ce travail de thèse, nous présentons plusieurs contributions visant à améliorer l'utilisation des modèles de Markov cachés (MMC) dans les systèmes d'intelligence artificielle. Nous nous sommes concentrés sur trois objectifs : l'amélioration de l'apprentissage de MMC, l'expérimentation d'un nouveau type de MMC et la visualisation de dissimilarité pour mieux comprendre les interactions entre MMC. Dans la première partie, nous proposons, évaluons et comparons plusieurs nouvelles applications
de métaheuristiques biomimétiques classiques (les algorithmes génétiques, l'algorithme de fourmis artificielles API et l'optimisation par essaim particulaire) au problème de l'apprentissage de MMC. Dans la
deuxième partie, nous proposons un nouveau type de modèle de Markov caché, appelé modèle Markov caché à substitutions de symboles (MMCSS). Un MMCSS permet d'incorporer des connaissances a priori dans le processus d'apprentissage et de reconnaissance. Les premières expérimentations de ces modèles sur des images démontrent leur intérêt. Dans la troisième partie, nous proposons une nouvelle méthode de représentation de dissimilarité appelée matrice de scatterplots pseudo-euclidienne (MSPE), permettant de mieux comprendre les interactions entre des MMC. Cette MSPE est construite à partir
d'une technique que nous nommons analyse en composantes principales à noyau indéfini (ACPNI). Nous terminons par la présentation de la bibliothèque HMMTK, développée au cours de ce travail. Cette dernière intègre des mécanismes de parallélisation et les algorithmes développés au cours de la thèse.
de métaheuristiques biomimétiques classiques (les algorithmes génétiques, l'algorithme de fourmis artificielles API et l'optimisation par essaim particulaire) au problème de l'apprentissage de MMC. Dans la
deuxième partie, nous proposons un nouveau type de modèle de Markov caché, appelé modèle Markov caché à substitutions de symboles (MMCSS). Un MMCSS permet d'incorporer des connaissances a priori dans le processus d'apprentissage et de reconnaissance. Les premières expérimentations de ces modèles sur des images démontrent leur intérêt. Dans la troisième partie, nous proposons une nouvelle méthode de représentation de dissimilarité appelée matrice de scatterplots pseudo-euclidienne (MSPE), permettant de mieux comprendre les interactions entre des MMC. Cette MSPE est construite à partir
d'une technique que nous nommons analyse en composantes principales à noyau indéfini (ACPNI). Nous terminons par la présentation de la bibliothèque HMMTK, développée au cours de ce travail. Cette dernière intègre des mécanismes de parallélisation et les algorithmes développés au cours de la thèse.
Mots clés
hidden Markov models
training
optimization
biomimetic metaheuristic
genetic algorithm
API artificial ants algorithm
particle swarm optimization
knowledges incorporation
symbol substitution
<br />scatterplots matrix
pseudo-euclidean space
principal component analysis
kernel method
modèles de Markov cachés
apprentissage
optimisation
métaheuristique biomimétique
algorithme génétique
algorithme de fourmis artificielles API
optimisation par essaim particulaire
incorporation de<br />connaissances
substitution de symboles
matrice de scatterplots
espace pseudo-euclidien
analyse en composantes principales
méthode à noyau
Domaines
Interface homme-machine [cs.HC]
Fichier principal
complet-valide.pdf (5.83 Mo)
Télécharger le fichier
soutenance.pdf (2.97 Mo)
Télécharger le fichier
Format : Autre
Loading...