Analyse de sentiments sur Twitter dans un contexte faiblement supervisé - TEL - Thèses en ligne Accéder directement au contenu
Thèse Année : 2022

Sentiment analysis on twitter in a weakly supervised context

Analyse de sentiments sur Twitter dans un contexte faiblement supervisé

Résumé

This manuscript describes the research carried out in the scope of the CIFRE thesis conducted in partnership between LITIS and Saagie. In the different chapters, we focus on the task of sentiment analysis, using the current state of the art models, Transformer models. More specifically, we focus on BERT, that inspired many of the Transformer-based models. We first define a list of guidelines in order to perform sentiment analysis with these state-of-the-art models, while having access to limited resources. Indeed, Transformer models are very greedy in terms of data resources, memory, and computing power which are very expensive, and therefore difficult to access. Thus, we recommend the use of a specialized model when it is available, such as BERTweet which is funded on the BERT-base architecture. In cases where the selected model does not have a specialized equivalent, we recommend the use of fine-tuning to adapt the generic model to tweets. Finally, the model may be susceptible to catastrophic forgetting during its fine-tuning. This can be avoided by using a low learning rate, as well as by freezing part of the model layers. In a second step, we seek to improve sentiment analysis by performing different combinations of the following models : BERTweet latent space fine-tuned on this task, Emojional emoji representation, and BERT-base latent space fine-tuned on sarcasm detection. It turns out that the emoji representation significantly improves sentiment classification, but the addition of the sarcasm model inhibits this improvement. In our further study, we hypothesized two reasons for this limitation : the sarcasm information contradicts the information from the other models, or the combination method used does not allow a proper integration of the sarcasm information. These hypotheses will be tested outside the scope of this thesis. Finally, we present the SAPhIRS project developed in partnership between Saagie, LITIS and Airbus Defence and Space, in which this thesis is included. This project aims to detect radicalization, influencers and communities on Twitter, on a dataset created by an external company (ELDA). Each of the modules created within the scope of this project integrates a processing chain (pipeline) that is put into production on the Saagie platform. Moreover, while waiting for the corpus created by ELDA, we participated in the hate detection task of the SemEval 2019 competition. Indeed, this task remains close to our radicalization theme.
Ce manuscrit présente les travaux effectués dans le cadre de la thèse CIFRE réalisée en partenariat entre le LITIS et Saagie. Au cours des différents chapitres, nous nous intéressons à la tâche d’analyse de sentiments, en utilisant les modèles actuellement à l’état de l’art, les modèles fondés sur le Transformer. Plus particulièrement, nous nous concentrons sur le modèle BERT, modèle ayant inspiré bon nombre des modèles fondés sur le Transformer. Nous commençons tout d’abord par définir une liste de recommandations à prendre en compte afin de faire de l’analyse de sentiments avec ces modèles à l’état de l’art, tout en ayant accès uniquement à des ressources limitées. En effet, les modèles Transformer sont très gourmands en ressources données, mémoire, et puissance de calcul. Ces ressources sont très coûteuses, et donc difficile d’accès. Ainsi, nous recommandons l’utilisation d’un modèle spécialisé lorsque celui-ci est disponible, comme BERTweet reprenant l’architecture de BERT-base et spécialisé dans le traitement des tweets. Dans les cas où le modèle sélectionné ne possède pas d’équivalent spécialisé, nous recommandons l’utilisation du fine-tuning afin d’adapter le modèle générique aux spécificités de la tâche. Enfin, lors de son fine-tuning, le modèle peut être sensible à l’oubli catastrophique. Ceci peut être évité grâce à l’utilisation d’un taux d’apprentissage faible, ainsi qu’en gelant une partie des couches du modèle. Dans un second temps, nous cherchons à améliorer l’analyse de sentiments en réalisant différentes combinaisons des modèles suivants : l’espace latent de BERTweet affiné sur cette tâche, la représentation d’emojis Emojional, et l’espace latent de BERT-base affiné sur la détection de sarcasme. Il s’avère que la représentation d’emojis améliore grandement la classification de sentiments, mais que l’ajout du modèle de sarcasme freine cette amélioration. En poussant notre étude, nous avons émis deux hypothèses concernant ce frein : les informations de sarcasme entrent en contradiction avec les informations des autres modèles, ou la méthode de combinaison utilisée ne permet pas une bonne intégration de l’information de sarcasme. Ces hypothèses seront vérifiées en dehors du cadre de cette thèse. Enfin, nous présentons le projet SAPhIRS réalisé en partenariat entre Saagie, le LITIS et Airbus Defence and Space, et dans lequel s’inscrit cette thèse. Ce projet a pour objectif la détection de radicalisation, d’influenceurs et de communautés sur Twitter, sur un jeu de données constitué par une société externe (ELDA). Chacun des modules créés dans le cadre de ce projet intègre une chaîne de traitement (pipeline) mis en production sur la plateforme Saagie. De plus, dans l’attente du corpus collecté par ELDA, nous avons participé à la tâche de détection de haine de la compétition SemEval 2019. En effet, cette tâche reste proche de notre thématique de radicalisation.
Fichier principal
Vignette du fichier
BENBALLA-M.pdf (5.31 Mo) Télécharger le fichier
Origine : Version validée par le jury (STAR)

Dates et versions

tel-04041435 , version 1 (22-03-2023)

Identifiants

  • HAL Id : tel-04041435 , version 1

Citer

Miriam Benballa. Analyse de sentiments sur Twitter dans un contexte faiblement supervisé. Informatique et langage [cs.CL]. Normandie Université, 2022. Français. ⟨NNT : 2022NORMIR24⟩. ⟨tel-04041435⟩
222 Consultations
370 Téléchargements

Partager

Gmail Facebook X LinkedIn More