Forêts Aléatoires: De l'Analyse des Mécanismes de Fonctionnement à la Construction Dynamique - TEL - Thèses en ligne Accéder directement au contenu
Thèse Année : 2009

Random Forests: From the Study of Behaviors to Dynamic Induction

Forêts Aléatoires: De l'Analyse des Mécanismes de Fonctionnement à la Construction Dynamique

Simon Bernard

Résumé

This research work is related to machine learning and more particularly deals with the parametrization of Random Forests, which are classifier ensemble methods that use decision trees as base classifiers. We focus on two important parameters of the forest induction: the number of features randomly selected at each node and the number of trees. We first show that the number of random features has to be chosen regarding to the feature space properties, and we propose hence a new algorithm called Forest-RK that exploits those properties. We then show that a static induction process implies that some of the trees of the forest make the ensemble generalisation error decrease, by deteriorating the strength/correlation compromise. We finaly propose an original random forest dynamic induction algorithm that favorably compares to static induction processes.
Les travaux de cette thèse se situent dans le domaine de l'apprentissage automatique et concernent plus particulièrement la paramétrisation des forêts aléatoires, une technique d'ensembles de classifieurs utilisant des arbres de décision. Nous nous intéressons à deux paramètres importants pour l'induction de ces forêts: le nombre de caractéristiques choisies aléatoirement à chaque noeud et le nombre d'arbres. Nous montrons d'abord que la valeur du premier paramètre doit être choisie en fonction des propriétés de l'espace de description, et proposons dans ce cadre un nouvel algorithme nommé Forest-RK exploitant ces propriétés. Nous montrons ensuite qu'avec un processus statique d'induction de Forêts, certains arbres provoquent une diminution des performances de l'ensemble, en dégradant le compromis force/ corrélation. Nous en déduisons un algorithme d'induction dynamique particulièrement performant en comparaison avec les procédures d'induction statique.
Fichier principal
Vignette du fichier
these.pdf (2.45 Mo) Télécharger le fichier

Dates et versions

tel-00598441 , version 1 (06-06-2011)

Identifiants

  • HAL Id : tel-00598441 , version 1

Citer

Simon Bernard. Forêts Aléatoires: De l'Analyse des Mécanismes de Fonctionnement à la Construction Dynamique. Apprentissage [cs.LG]. Université de Rouen, 2009. Français. ⟨NNT : ⟩. ⟨tel-00598441⟩
483 Consultations
5861 Téléchargements

Partager

Gmail Facebook X LinkedIn More