Uplift Modeling for Online Advertising - TEL - Thèses en ligne Accéder directement au contenu
Thèse Année : 2021

Uplift Modeling for Online Advertising

Modélisation d'Uplift pour la Publicité en ligne

Résumé

Uplift modeling is a machine learning-based technique for treatment effect prediction at the individual level, which has become one of the main trends in application areas where personalization is key, such as personalized medicine, performance marketing, social sciences, etc. This thesis is intended to expand the scope of uplift modeling for experimental data by developing new theory and solutions for several open challenges in the field, inspired by the online advertising applications perspective. Firstly we release a publicly available collection of 13.9 million samples collected from several randomized control trials, scaling up available datasets by a 210x factor. We formalize how uplift modeling can be performed with this data, along with relevant evaluation metrics. Then, we propose synthetic response surfaces and treatment assignment providing a general set-up for Conditional Average Treatment Effect (CATE) prediction and report experiments to validate key traits of the dataset. Secondly, we assume imbalanced treatment conditions and propose two new data representation-based methods inspired by cascade and multi-task learning paradigms. We provide then series of experimental results over several large-scale real-world collections to check the benefits of the proposed approaches. We then cover the problem of direct optimization of the Area Under the Uplift Curve (AUUC), a popular metric in the field. Using the relations between uplift modeling and bipartite ranking we provide a generalization bound for the AUUC and derive an algorithm optimizing this bound, usable with linear and deep models. We empirically study the tightness of the proposed bound, its efficacy for hyperparameters tuning, and investigate the performance of the method compared to a range of baselines on two real-world uplift modeling benchmarks. Finally, we consider the problem of learning uplift models from aggregated data. We propose a principled way to learn group-based uplift models from data aggregated according to a given set of groups that define a partition of the user space, using different unsupervised aggregation techniques, such as feature binning by value or by quantile. We proceed by introducing a bias-variance decomposition of the Precision when Estimating Heterogeneous Effect (PEHE) metric for models learned on a given grouping and show how this decomposition enables us to derive a theoretical optimal number of groups as a function of data size. Experimental results highlight the bias-variance trade-off and confirm theoretical insights concerning the optimal number of groups. In addition, we show that group-based uplift models can have comparable performance to baselines with full access to the data.
La modélisation d'uplift est une technique basée sur l'apprentissage automatique pour la prédiction de l'effet du traitement au niveau individuel, qui est devenue l'une des principales tendances dans les domaines d'application où la personnalisation est essentielle. Cette thèse a pour but d'étendre le champ d'application de la modélisation d'uplift pour les données expérimentales en développant une nouvelle théorie et des solutions pour les défis ouverts dans le domaine, inspirés de la perspective des applications de la publicité en ligne. Tout d'abord, nous mettons à la disposition du public une collection de 13,9 millions d'échantillons collectés à partir de plusieurs essais de contrôle aléatoires, ce qui multiplie par 210 les ensembles de données disponibles. Nous formalisons la façon dont la modélisation d'uplift peut être effectuée avec ces données, ainsi que les mesures d'évaluation pertinentes. Ensuite, nous proposons des surfaces de réponse synthétiques et une affectation de traitement fournissant une configuration générale pour la prédiction de l'ITE et nous rapportons des expériences pour valider les caractéristiques clés de l'ensemble de données en tirant parti de sa taille pour évaluer et comparer une sélection de méthodes de base de modélisation d'uplift et de prédiction de l'ITE. Deuxièmement, nous supposons que les conditions de traitement sont déséquilibrées et nous proposons deux nouvelles méthodes basées sur la représentation des données et agnostiques par rapport au modèle, inspirées des paradigmes d'apprentissage en cascade et multi-tâches. Les résultats expérimentaux sur plusieurs collections à grande échelle montrent les avantages des approches proposées. Nous abordons ensuite le problème de l'optimisation directe de l'Area Under the Uplift Curve (AUUC), une métrique populaire dans le domaine. En utilisant les relations entre la modélisation d'uplift et le classement bipartite, nous fournissons une limite de généralisation pour l'AUUC et dérivons l'algorithme d'optimisation de cette limite, utilisable avec des modèles linéaires et profonds. Nous étudions empiriquement l'étanchéité de la limite proposée, son efficacité pour le réglage des hyperparamètres et montrons l'efficacité de l'objectif d'apprentissage proposé par rapport à une série de lignes de base sur deux repères de modélisation d'uplift en utilisant des ensembles de données du monde réel. Enfin, nous considérons le problème de l'apprentissage de modèles d'uplift à partir de données agrégées, c'est-à-dire avec un accès aux étiquettes et aux caractéristiques uniquement par des requêtes agrégées sur des groupes. Nous proposons une méthode de principe pour apprendre des modèles d'uplift basés sur des groupes à partir de données agrégées selon un ensemble donné de groupes qui définissent une partition de l'espace utilisateur, en utilisant différentes techniques d'agrégation non supervisées, telles que le regroupement de caractéristiques par valeur ou par quantile. Nous introduisons une décomposition bias-variance de la métrique Precision when Estimating Heterogeneous Effect (PEHE) pour les modèles appris sur un regroupement donné et montrons comment cette décomposition nous permet de dériver un nombre optimal théorique de groupes en fonction de la taille des données. Les résultats expérimentaux mettent en évidence le compromis bias-variance et confirment les idées théoriques concernant le nombre optimal de groupes. En outre, nous montrons que les modèles d'uplift basés sur les groupes peuvent avoir des performances comparables à celles des modèles de base avec un accès complet aux données, ce qui suggère que l'agrégation ne pénalise pas de manière significative la modélisation d'uplift tout en garantissant la protection de la vie privée.
Fichier principal
Vignette du fichier
betlei-thesis.pdf (4.39 Mo) Télécharger le fichier
Origine : Fichiers produits par l'(les) auteur(s)

Dates et versions

tel-03472257 , version 1 (09-12-2021)

Identifiants

  • HAL Id : tel-03472257 , version 1

Citer

Artem Betlei. Uplift Modeling for Online Advertising. Artificial Intelligence [cs.AI]. Université Grenoble Alpes, 2021. English. ⟨NNT : ⟩. ⟨tel-03472257⟩
295 Consultations
1331 Téléchargements

Partager

Gmail Facebook X LinkedIn More