convex optimization for risk-sensitive learning - TEL - Thèses en ligne Accéder directement au contenu
Thèse Année : 2021

convex optimization for risk-sensitive learning

Optimisation convexe pour l'apprentissage robuste au risque

Yassine Laguel
  • Fonction : Auteur
  • PersonId : 1151644
  • IdRef : 261891103

Résumé

This thesis deals with optimization under uncertainty, which has a long history in operations research and mathematical optimization. This field is currently challenged by applications in artificial intelligence and data science, where risk management has become a crucial issue. In this thesis, we consider nonsmooth optimization problems involving risk measures and coming from statistical learning applications. We pay a special attention to the risk measure called the superquantile (also known as the "Conditional Value at Risk") and we show how, in various contexts, it may enforce robustness for decision-making under uncertainty. First, we consider convex risk measures admitting a representation in terms of superquantiles. We derive first-order oracles with optimal computational complexity. These approximate oracles involve different smoothing techniques for which we propose a unified analysis. We also propose an efficient implementation of these oracles, coupled with a series of classical optimization methods, in an open-source software in python. We show empirically, on classification and regression tasks, that the predictions obtained are robust to data shifts.We then consider chance-constrained optimization problems. We propose a reformulation of these problems in the form of bilevel programs that involve the superquantile. We propose a (sem exact penalization for this reformulation, which we treat with a bundle method. We implement our bilevel approach in an open-source python software, which we illustrate on non-convex problems.Finally, we investigate the use of the superquantile for federated learning. We consider the case of users with heterogeneous data distributions and we show how the superquantile allows for better performances on non-conforming users. We propose an algorithm adapted to the constraints of federated learning, in terms of communications and data privacy. We prove its theoretical convergence in the convex case by controlling the drift induced by the local stochastic gradient method and the dynamic reweighting induced by superquantiles. We also propose an in-depth numerical study of our algorithm and compare its performance with several established baselines, including FedAvg, FedProx and Tilted-ERM and Agnostic Federated Learning.
Cette thèse s’inscrit dans le cadre de l’optimisation sous incertitude, qui a une longue tradition en recherche opérationnelle et en optimisation mathématique.Ce domaine trouve aujourd’hui de nouvelles applications en intelligence artificielle et science des données, où la prise en compte du risque est devenu une question cruciale. Dans cette thèse, nous considérons des problèmes d’optimisation, issus d’applications en apprentissage statistique, mettant enjeu des mesures de risque. Nous accordons une attention particulière à la mesure de risque appelée superquantile (également connue sous le nom de "Conditional Value at Risk") et montrons comment, dans divers contextes, elle permet d’obtenir de la robustesse dans la prise de décision.Dans un premier temps, nous nous intéressons aux mesures de risque convexes admettant une représentation en termes de superquantiles. Nous dérivons des oracles du premier ordre avec une complexité de calcul optimale. Ces oracles approchés font intervenir différentes techniques de lissage pour lesquelles nous proposons une analyse unifiée. Nous proposons aussi une implémentation efficace de ces oracles, couplée à une série de méthodes classiques d’optimisation,dans un logiciel open-source en python. Nous montrons empiriquement, sur des problèmes de classifications et de régression, que les prédictions obtenues sont robustes aux perturbations des données.Nous nous penchons ensuite sur les problèmes d’optimisation avec contraintes en probabilités. Nous proposons une reformulation de ces problèmes sous la forme de problèmes bi-niveaux qui font apparaître le superquantile. Nous proposons une pénalisation (semi-)exacte pour cette reformulation, que nous traitons avec une méthode de faisceaux. Nous implémentons notre approche bi-niveau, dans un logiciel open-source, que nous illustrons sur des problèmes non-convexes.Enfin, nous nous penchons sur l’utilisation du superquantile dans le cadre de l’apprentissage fédéré. Nous considérons le cas d’utilisateurs aux distributions de données hétérogènes et montrons comment le superquantile permet d’obtenir de meilleurs performances sur les utilisateurs les moins privilégiés. Notre algorithme est adapté aux contraintes réelles, en terme de communications et de protection des données. Nous en démontrons la convergence théorique dans le cas convexe en contrôlant simultanément la dérive des modèles locaux induite par la méthode de descente du gradient stochastique locale, ainsi que la redistribution de poids induite par le superquantile. Nous proposons aussi une étude numérique approfondie de notre algorithme en le comparant à un ensemble d’algorithmes constituant l’état de l’art en apprentissage fédéré,incluant notamment FedAvg, FedProx, Tilted-ERM et Agnostic Federated Learning.
Fichier principal
Vignette du fichier
LAGUEL_2021_archivage.pdf (14.7 Mo) Télécharger le fichier
Origine : Version validée par le jury (STAR)

Dates et versions

tel-03736418 , version 1 (22-07-2022)

Identifiants

  • HAL Id : tel-03736418 , version 1

Citer

Yassine Laguel. convex optimization for risk-sensitive learning. Machine Learning [cs.LG]. Université Grenoble Alpes [2020-..], 2021. English. ⟨NNT : 2021GRALM053⟩. ⟨tel-03736418⟩
145 Consultations
65 Téléchargements

Partager

Gmail Facebook X LinkedIn More