Contributions to the theoretical analysis of the algorithms with adversarial and dependent data - TEL - Thèses en ligne Accéder directement au contenu
Thèse Année : 2021

Contributions to the theoretical analysis of the algorithms with adversarial and dependent data

Contributions à l'analyse théorique des algorithmes avec des données contradictoires et dépendantes

Résumé

In this thesis firstly, I present concentration inequalities of Bernstein's type for the norms of Banach-valued random sums under functional weak-dependency assumption (the so-called functional $\mathcal{C}-$mixing). The latter is then used to prove, in the asymptotic framework, excess risk upper bounds of the regularised Hilbert-valued statistical learning rules under $\tau$-mixing assumption on the underlying training sample. These results (of the batch statistical setting) are then supplemented with the regret analysis over the classes of Sobolev balls of the type of kernel ridge regression algorithm in the setting of online nonparametric regression with arbitrary bounded data sequences. Here, in particular, a question of robustness of the kernel-based forecaster is investigated. in the framework of sequential learning, the multi-armed bandit problem under $\mathcal{C}-$mixing assumption on the arm's outputs is considered and the pseudo-regret analysis of a version of Improved UCB algorithm is given. Frinally probabilistic inequalities under the type of projective dependence condition are established for the case of deviations (both of Azuma-Hoeffding's and of Burkholder's type) to the partial sums of real-valued weakly dependent random fields.
Dans cette thèse, je présente tout d'abord les inégalités de concentration de type Bernstein pour les normes des sommes aléatoires à valeurs de Banach sous l'hypothèse de faible dépendance fonctionnelle (appelée $\mathcal{C}-$mélange). Ce dernier est ensuite utilisé pour prouver, dans le cadre asymptotique, les limites supérieures du risque d'excès des règles d'apprentissage statistiques régularisées à valeur de Hilbert sous l'hypothèse de mélange $\tau$ sur l'échantillon d'apprentissage sous-jacent. Ces résultats (du cadre statistique batch) sont ensuite complétés par l'analyse des regrets sur les classes de boules de Sobolev du type d'algorithme de régression kernel ridge dans le cadre de la régression non paramétrique en ligne avec des séquences de données bornées arbitraires. Ici, en particulier, une question de robustesse du prévisionniste basé sur le noyau est étudiée. dans le cadre de l'apprentissage séquentiel, le problème du bandit multi-armé sous l'hypothèse $\mathcal{C}-$mixing sur les sorties du bras est considéré et l'analyse des pseudo-regrets d'une version de l'algorithme UCB amélioré est donnée. Des inégalités frinallement probabilistes sous le type de condition de dépendance projective sont établies pour le cas des déviations (à la fois du type d'Azuma-Hoeffding et du type de Burkholder) aux sommes partielles de champs aléatoires faiblement dépendants à valeurs réelles.
Fichier principal
Vignette du fichier
ThesisOleksandrVersion3.pdf (2.26 Mo) Télécharger le fichier
Origine : Fichiers produits par l'(les) auteur(s)

Dates et versions

tel-03711863 , version 1 (01-07-2022)
tel-03711863 , version 2 (19-07-2022)
tel-03711863 , version 3 (19-09-2022)

Identifiants

  • HAL Id : tel-03711863 , version 3

Citer

Oleksandr Zadorozhnyi. Contributions to the theoretical analysis of the algorithms with adversarial and dependent data. Statistics [math.ST]. Universität Potsdam (Allemagne), 2021. English. ⟨NNT : ⟩. ⟨tel-03711863v3⟩

Collections

INSMI
339 Consultations
259 Téléchargements

Partager

Gmail Facebook X LinkedIn More