Statistical Estimation in High Dimension, Sparsity and Oracle Inequalities - TEL - Thèses en ligne Accéder directement au contenu
Thèse Année : 2009

Statistical Estimation in High Dimension, Sparsity and Oracle Inequalities

Estimation Statistique En Grande Dimension, Parcimonie et Inégalités D'Oracle

Résumé

We treat two subjects. The first subject is about statistical learning in high-dimension, that is when the number of paramaters to estimate is larger than the sample size. In this context, the generally adopted assumption is that the number of true parameters is much smaller than the number of potential paramaters. This assumption is called the ``\emph{sparsity assumption}''. We study the statistical properties of two types of procedures: the penalized risk minimization procedures with a $l_{1}$ penalty term on the set of potential parameters and the exponential weights procedures. The second subject is about the study of two aggregation procedures in a density estimation problem. We establish oracle inequalities for the $L^{\pi}$ norm, $1\leqslant \pi \leqslant \infty$. Next, we exploit these results to build minimax rate adaptive estimators of the density.
Dans cette thèse nous traitons deux sujets. Le premier sujet concerne l'apprentissage statistique en grande dimension, i.e. les problèmes où le nombre de paramètres potentiels est beaucoup plus grand que le nombre de données à disposition. Dans ce contexte, l'hypothèse généralement adoptée est que le nombre de paramètres intervenant effectivement dans le modèle est petit par rapport au nombre total de paramètres potentiels et aussi par rapport au nombre de données. Cette hypothèse est appelée ``\emph{sparsity assumption}''. Nous étudions les propriétés statistiques de deux types de procédures : les procédures basées sur la minimisation du risque empirique muni d'une pénalité $l_{1}$ sur l'ensemble des paramètres potentiels et les procédures à poids exponentiels. Le second sujet que nous abordons concerne l'étude de procédures d'agrégation dans un modèle de densité. Nous établissons des inégalités oracles pour la norme $L^{\pi}$, $1\leqslant \pi \leqslant \infty$. Nous proposons ensuite une application à l'estimation minimax et adaptative en la régularité de la densité.
Fichier principal
Vignette du fichier
These_Lounici_Karim.pdf (971.8 Ko) Télécharger le fichier

Dates et versions

tel-00435917 , version 1 (25-11-2009)

Identifiants

  • HAL Id : tel-00435917 , version 1

Citer

Karim Lounici. Statistical Estimation in High Dimension, Sparsity and Oracle Inequalities. Mathematics [math]. Université Paris-Diderot - Paris VII, 2009. English. ⟨NNT : ⟩. ⟨tel-00435917⟩
456 Consultations
378 Téléchargements

Partager

Gmail Facebook X LinkedIn More