Temporal graph embedding : static methods temporalization and alignment
Embedding de graphes temporels : temporalisation de méthodes statiques et alignement
Résumé
The last decade has seen the emergence of works covering a wide spectrum of data processing branches with the objective of data embedding: this is a pre-processing step that focuses on representing data as vectors in a low-dimensional latent space. This technique has been adapted to several types of data, including graphs from social networks. Nevertheless, although fundamental, the temporal dimension of graphs remains under-explored by the state of the art of embedding methods. This thesis focused on the case of embedding temporal graphs. A first axis consisted in the design of dynamic embedding methods: an "extensive" method at first, then a method combining the notion of random walks with a temporal smoothing mechanism between consecutive embedding vectors. We have designed a "task-specific" variant using some labels of input nodes to improve the classification tasks. In the second part of the thesis, we designed a generic approach to "temporalize" a class of static embedding methods (autoencoders), significantly improving the performances of time-sensitive inference tasks. Finally, the last axis was devoted to the study of the temporal alignment of embeddings, i.e.the potential mismatches between the embedding spaces of different time steps, and its impact on the consistency of the learned latent representations.
La dernière décennie a vu émerger des travaux couvrant un large spectre des branches du traitement de la donnée ayant pour objectif l'apprentissage de représentation de données (data embedding plus communément) : il s'agit d'un prétraitement qui s'attache à représenter les données sous forme de vecteurs dans un espace latent à faible dimension. Cette technique a été adaptée à plusieurs types de données, entre autres aux graphes issus des réseaux sociaux. Néanmoins, bien que fondamentale, la dimension temporelle des graphes reste sous-explorée par l’état de l’art des méthodes d’embedding. Ce travail de thèse s’est attaché à l’étude du cas de l’embedding de graphes temporels. Un premier axe a consisté en la conception de méthodes d’embedding temporelles : dans un premier temps, une méthode "exhaustive", puis une autre méthode couplant la notion des marches aléatoires à un mécanisme de lissage temporel entre vecteurs d’embedding consécutifs. Aussi, nous avons conçu une variante "task-specific" utilisant en partie les labels des nœuds en entrée pour améliorer les tâches de classification. Dans le second volet du travail de thèse, nous avons conçu une approche générique de "temporalisation" d'une catégorie de méthodes d'embedding statiques (les autoencodeurs), améliorant significativement les performances des tâches d'inférence sensibles à la dimension temporelle. Enfin, le dernier axe a été consacré à l’étude de l’alignement temporel des embeddings, i.e.les potentiels décalages entre les espaces d'embedding des différents pas de temps, et à son impact sur la consistance des représentations latentes apprises.
| Origine | Version validée par le jury (STAR) |
|---|