Incremental Learning Of Evolving Fuzzy Inference Systems : Application To Handwritten Gesture Recognition - Archive ouverte HAL Access content directly
Theses Year : 2011

Incremental Learning Of Evolving Fuzzy Inference Systems : Application To Handwritten Gesture Recognition

Apprentissage incrémental de systèmes d'inférence floue : application à la reconnaissance de gestes manuscrits

(1)
1
Abdullah Almaksour
  • Function : Author
  • PersonId : 872000

Abstract

We present in this thesis a new method for the conception of evolving and customizable classification systems. The main contribution of this work is represented by proposing an incremental approach for the learning of classification models based on first-order Takagi-Sugeno (TS) fuzzy inference systems. This approach includes, on the one hand, the adaptation of linear consequences of the fuzzy rules using the recursive least-squares method, and, on the other hand, an incremental learning of the antecedent of these rules in order to modify the membership functions according to the evolution of data density in the input space. The proposed method, Evolve++, resolves the instability problems in the incremental learning of TS models thanks to a global learning paradigm in which antecedents and consequents are learned in synergy, contrary to the existing approaches where they are learned separately. The performance of our system had been demonstrated on different well-known benchmarks, with a special focus on its capacity of learning new classes. In the applicative context of handwritten gesture recognition, this system can adapt continuously with the special writing styles (personalization of existing symbols) and the new needs of the users (adding new symbols). In this specific domain, we propose a second contribution to accelerate the learning of new symbols by the automatic generation of artificial data. The generation technique is based on Sigma-lognormal theory, which proposes a new representation space of handwritten forms based on a neuromuscular modeling of writing mechanism. By applying some deformations on the Sigma-lognormal profile of a given gesture, we can obtain synthetic handwritten gestures that are realistic and close to human deformation. Integrating this data generation technique in our systems accelerates the learning process and significantly improves the overall performance.
Nous présentons dans cette thèse une nouvelle méthode pour la conception de moteurs de reconnaissance personnalisables et auto-évolutifs. La contribution majeure de cette thèse consiste à proposer une approche incrémentale pour l'apprentissage de classifieurs basés sur les systèmes d'inférence floue de type Takagi-Sugeno d'ordre 1. Cette approche comprend, d'une part, une adaptation des paramètres linéaires associés aux conclusions des règles en utilisant la méthode des moindres carrés récursive, et, d'autre part, un apprentissage incrémental des prémisses de ces règles afin de modifier les fonctions d'appartenance suivant l'évolution de la densité des données dans l'espace de classification. La méthode proposée, Evolve++, résout les problèmes d'instabilité d'apprentissage incrémental de ce type de systèmes grâce à un paradigme global d'apprentissage où les prémisses et les conclusions sont apprises en synergie et non de façon indépendante. La performance de ce système a été démontrée sur des bancs d'essai connus, en mettant en évidence notamment sa capacité d'apprentissage à la volée de nouvelles classes. Dans le contexte applicatif de la reconnaissance de gestes manuscrits, ce système permet de s'adapter en continue aux styles d'écriture (personnalisation des symboles) et aux nouveaux besoins des utilisateurs (introduction à la volée des nouveaux symboles). Dans ce domaine, une autre contribution a été d'accélérer l'apprentissage de nouveaux symboles par la synthèse automatique de données artificielles. La technique de synthèse repose sur la théorie Sigma-lognormal qui propose un nouvel espace de représentation des tracés manuscrits basé sur un modèle neuromusculaire du mécanisme d'écriture. L'application de déformations sur le profil Sigma-lognormal permet d'obtenir des tracés manuscrits synthétiques qui sont réalistes et proches de la déformation humaine. L'utilisation de ces tracés synthétiques dans notre système accélère l'apprentissage et améliore de façon significative sa performance globale.
Fichier principal
Vignette du fichier
PhD_Thesis_Almaksour.pdf (4.6 Mo) Télécharger le fichier
Loading...

Dates and versions

tel-00741574 , version 1 (14-10-2012)

Identifiers

  • HAL Id : tel-00741574 , version 1

Cite

Abdullah Almaksour. Incremental Learning Of Evolving Fuzzy Inference Systems : Application To Handwritten Gesture Recognition. Machine Learning [cs.LG]. INSA de Rennes, 2011. English. ⟨NNT : ⟩. ⟨tel-00741574⟩
291 View
393 Download

Share

Gmail Facebook Twitter LinkedIn More