Thèse Année : 2024

Visual analytics for understanding, optimizing and developing deep neural network models

Méthodes et outils d’analyse visuelle pour la compréhension, l’optimisation et l’élaboration de modèles de réseaux de neurones profonds

Adrien Halnaut
  • Fonction : Auteur
  • PersonId : 1397493
  • IdRef : 25727216X

Résumé

Deep‐learning methods are widely used in a variety of research and industrial domains, especially in the data classification task. However, this technology is often notoriously compared to a “black box”. The user can understand input and output data of the network, but has little to no knowledge about its internal processing. This aspect of neural networks makes difficult to justify their predictions. Explainability and Interpretability of deep neural networks is a research domain merging with a variety of scientific communities. Its goal is to make easier the understanding of neural networks for both users and experts. Information visualization is one of the techniques used to answer this need. It consists in building tools which make easier the understanding and the analysis of usually high dimensional datasets, using visual abstractions and interactions. In this thesis, we make use of data extracted from the output of each layer of the neural network to interpret the model decisions using visualization methods. First, we show it is possible to visualize groups of samples processed similarly by the network using a Sankey diagram. This method asks for large data processing, which we enable by using machine clusters infrastructures used in BigData operations. In order to study more complex scenarios, involving larger datasets and heavier network architectures, we develop compact data visualization methods. We propose two approaches: the first one implies representation of data proximities using data reduction to the ℕ space, the other one implies post‐processing to ℝ�� → ℝ2 data projections to build compact grids of data. In order to evaluate the performances of these projection methods, we propose a user study protocol. Its goal is to measure the suitability of visualization methods in tasks related to the understanding of high‐dimensional data. Finally, we carry out an evaluation following this protocol to compare the efficiency between compact data visualization and scatter plot visualization. This evaluation is conducted using state of the art methods t‐SNE and Self‐Sorting Maps.
Les méthodes d’apprentissage profond sont grandement utilisées dans une multitude de domaines de recherche et industriels, notamment pour résoudre des tâches de classification de données. Cependant, cette technologie est souvent associée à un modèle considéré comme une «boîte noire». L’utilisateur peut comprendre les données en entrée et en sortie du réseau entraîné, mais ne connait pratiquement rien du fonctionnement interne du réseau. Cet aspect rend difficile la justification des prédictions des modèles. L’explicabilité et l’interprétabilité des réseaux de neurones est un domaine de recherche qui regroupe différentes communautés scientifiques. Il a pour objectif de faciliter la compréhension du fonctionnement des réseaux de neurones aux yeux des utilisateurs et experts. La visualisation d’information est l’une des techniques employées pour répondre à ce besoin. Elle concerne l’élaboration d’outils facilitant la compréhension et l’analyse de jeux de données, habituellement à plus de deux dimensions, au moyen de représentations visuelles et d’interactions. Dans cette thèse, nous exploitons les informations extraites en sortie de chaque couche des réseaux pour interpréter leurs décisions via des méthodes de visualisation. Dans un premier temps, nous montrons qu’il est possible de représenter des groupes d’instances traitées similairement par un réseau au moyen d’un diagramme de Sankey. Ce processus demande le traitement de données en quantité importante, que nous avons conduit en exploitant des infrastructures de calculs à large échelle issues du domaine du BigData. Pour étudier des scénarios plus complexes, qui impliquent des jeux de données plus grands et des architectures de réseaux plus lourdes, nous développons des méthodes de visualisation compacte. Nous utilisons deux approches : l’une concerne la représentation de la proximité des éléments en les projetant dans l’espace ℕ, l’autre en appliquant un post‐traitement sur des projections ℝ�� → ℝ2 pour en former des grilles compactes de données. Pour évaluer l’efficacité de ces méthodes de projections, nous avons mis en place un protocole d’évaluation utilisateur. Celui‐ci permet de mesurer la pertinence des méthodes de visualisations pour résoudre des tâches liées à la compréhension de jeux de données dans ℝ��. Nous avons finalement conduit une évaluation suivant notre protocole pour comparer l’efficacité de la visualisation compacte avec celle de la visualisation par nuages de points. Cette évaluation est menée en utilisant deux méthodes de projection de l’état de l’art, t‐SNE et Self‐Sorting Maps.
Fichier principal
Vignette du fichier
HALNAUT_ADRIEN_2024.pdf (17.91 Mo) Télécharger le fichier
Origine Version validée par le jury (STAR)

Dates et versions

tel-04633751 , version 1 (03-07-2024)

Identifiants

  • HAL Id : tel-04633751 , version 1

Citer

Adrien Halnaut. Méthodes et outils d’analyse visuelle pour la compréhension, l’optimisation et l’élaboration de modèles de réseaux de neurones profonds. Informatique [cs]. Université de Bordeaux, 2024. Français. ⟨NNT : 2024BORD0042⟩. ⟨tel-04633751⟩
80 Consultations
32 Téléchargements

Partager

More