Global and local Kernel methods for dataset shift, scalable inference and optimization - TEL - Thèses en ligne Accéder directement au contenu
Thèse Année : 2022

Global and local Kernel methods for dataset shift, scalable inference and optimization

Méthodes à noyau globales et locales pour le déplacement de données, l'inférence évolutive et l'optimisation

Davit Gogolashvili
  • Fonction : Auteur
  • PersonId : 1326868
  • IdRef : 267855745

Résumé

In many real world problems, the training data and test data have different distributions. The most common settings for dataset shift often considered in the literature are covariate shift and target shift. In this thesis, we investigate nonparametric models applied to the dataset shift scenario. We develop a novel framework to accelerate Gaussian process regression. In particular, we consider localization kernels at each data point to down-weigh the contributions from other data points that are far away, and we derive the GPR model stemming from the application of such localization operation. We propose a new method for estimating the minimizer and the minimum value of a smooth and strongly convex regression function from the observations contaminated by random noise.
Dans de nombreux problèmes du monde réel, les données de formation et les données de test ont des distributions différentes. Cette situation est communément appelée " décalage de l'ensemble de données ". Les paramètres les plus courants pour le décalage des ensembles de données souvent considérés dans la littérature sont le décalage des covariables et le décalage des cibles. Dans cette thèse, nous étudions les modèles nonparamétriques appliqués au scénario de changement d'ensemble de données. Nous développons un nouveau cadre pour accélérer la régression par processus gaussien. En particulier, nous considérons des noyaux de localisation à chaque point de données pour réduire les contributions des autres points de données éloignés, et nous dérivons le modèle GPR découlant de l'application de cette opération de localisation. Grâce à une série d'expériences, nous démontrons la performance compétitive de l'approche proposée par rapport au GPR complet, à d'autres modèles localisés et aux processus gaussiens profonds. De manière cruciale, ces performances sont obtenues avec des accélérations considérables par rapport au GPR global standard en raison de l'effet de sparsification de la matrice de Gram induit par l'opération de localisation. Nous proposons une nouvelle méthode pour estimer le minimiseur et la valeur minimale d'une fonction de régression lisse et fortement convexe à partir d'observations contaminées par du bruit aléatoire.
Fichier principal
Vignette du fichier
GOGOLASHVILI_Davit_theseV2_2022.pdf (1.39 Mo) Télécharger le fichier
Origine : Version validée par le jury (STAR)

Dates et versions

tel-04348746 , version 1 (17-12-2023)

Identifiants

  • HAL Id : tel-04348746 , version 1

Citer

Davit Gogolashvili. Global and local Kernel methods for dataset shift, scalable inference and optimization. Computer Aided Engineering. Sorbonne Université, 2022. English. ⟨NNT : 2022SORUS363⟩. ⟨tel-04348746⟩
60 Consultations
21 Téléchargements

Partager

Gmail Facebook X LinkedIn More