Diffusion-Wasserstein Distances for Attributed Graphs
Distances de Diffusion-Wasserstein pour les graphes attribués
Résumé
This thesis is about the definition and study of the Diffusion-Wasserstein distances between attributed graphs.An attributed graph is a collection of points with individual descriptions (features) and links between them (structure), like molecules or a social network. The Diffusion-Wasserstein distance is a generalization of the Wasserstein distance. It defines a metric for attributed graphs, and allow the computation of a transport map between them. It exploits the graph diffusion process to define new features for the nodes, and compare them. The diffusion time τ acts as a hyper-parameter, weighting the relative importance of the features and the structure. Compared to other transport distances that take into account features and a graph structure, the Diffusion-Wasserstein distance is faster to compute and yields better results in Domain Adaptation tasks.The computational side of the diffusion process received special attention. We used polynomial approximation using a Chebychev basis to accelerate these computations. We proved a new bound for the approximation error of the exponential operator, and showed how parts of the computation can be re-used for new diffusion times τ.A specific heuristic was developed to choose the diffusion time τ. It works by minimizing a function akin to a triplet-loss. I uses impostors, synthetic graphs built to be dissimilar in specific ways to the original attributed graphs whose distance is required. This heuristic yields better results for our method than the circular validation criterion used in Domain Adaptation.
Ces travaux ont porté sur la définition et l’étude de la distance de Diffusion-Wasserstein entre graphes attribués. Les graphes attribués sont des collections de points avec une description individuelle (attributs) et des liens entre eux (structure de graphe), comme une molécule ou un réseau social. La distance de Diffusion-Wasserstein est une généralisation de la distance de Wasserstein ; elle permet de définir une distance entre des graphes attribués, et de calculer un plan de transport entre eux. Son fonctionnement exploite la diffusion dans le graphe pour définir de nouveaux attributs et les comparer. Le temps de diffusion τ joue le rôle d’hyper-paramètre, contrôlant l’importance donnée aux attributs et à la structure. Comparée à d’autres distances de transport qui prennent en compte attributs et structure de graphe, la distance de Diffusion-Wasserstein est plus rapide à calculer, et donne les meilleures performances dans plusieurs tâches d’apprentissage.Le calcul du processus de diffusion a reçu une attention particulière. Ces travaux ont porté sur une approximation à base de polynômes de Tchebychev. Cette approximation permet d’accélérer le calcul de la diffusion, et une nouvelle borne de l’erreur d’approximation qui améliore l’état de l’art a été prouvée. Un heuristique spéciale pour le choix du temps de diffusion τ a été définie. Celle-ci se base sur la minimisation d’une fonction, semblable à une triplet-loss, qui utilise des imposteurs, des graphes attribués construits pour être dissimilaires aux données initiales. Cette heuristique obtient de meilleurs résultats que le critère de validation circulaire utilisé jusqu’ici.
| Origine | Version validée par le jury (STAR) |
|---|