<?xml version="1.0" encoding="utf-8"?>
<TEI xmlns="http://www.tei-c.org/ns/1.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xmlns:hal="http://hal.archives-ouvertes.fr/" xmlns:gml="http://www.opengis.net/gml/3.3/" xmlns:gmlce="http://www.opengis.net/gml/3.3/ce" version="1.1" xsi:schemaLocation="http://www.tei-c.org/ns/1.0 http://api.archives-ouvertes.fr/documents/aofr-sword.xsd">
  <teiHeader>
    <fileDesc>
      <titleStmt>
        <title>HAL TEI export of tel-05448644</title>
      </titleStmt>
      <publicationStmt>
        <distributor>CCSD</distributor>
        <availability status="restricted">
          <licence target="https://creativecommons.org/publicdomain/zero/1.0/">CC0 1.0 - Universal</licence>
        </availability>
        <date when="2026-05-24T02:23:06+02:00"/>
      </publicationStmt>
      <sourceDesc>
        <p part="N">HAL API Platform</p>
      </sourceDesc>
    </fileDesc>
  </teiHeader>
  <text>
    <body>
      <listBibl>
        <biblFull>
          <titleStmt>
            <title xml:lang="en">Robust Neural Machine Translation of User-Generated Content</title>
            <title xml:lang="fr">Traduction automatique neuronale robuste</title>
            <author role="aut">
              <persName>
                <forename type="first">Lydia</forename>
                <surname>Nishimwe</surname>
              </persName>
              <email type="md5">1d4ce91383c2909cc620ee7eaa823ad5</email>
              <email type="domain">inria.fr</email>
              <idno type="idhal" notation="string">lydia-nishimwe</idno>
              <idno type="idhal" notation="numeric">1196760</idno>
              <idno type="halauthorid" notation="string">2628109-1196760</idno>
              <idno type="ORCID">https://orcid.org/0009-0009-7082-4711</idno>
              <idno type="IDREF">https://www.idref.fr/292832389</idno>
              <affiliation ref="#struct-482775"/>
            </author>
            <editor role="depositor">
              <persName>
                <forename>ABES</forename>
                <surname>STAR</surname>
              </persName>
              <email type="md5">f5aa7f563b02bb6adbba7496989af39a</email>
              <email type="domain">abes.fr</email>
            </editor>
          </titleStmt>
          <editionStmt>
            <edition n="v1" type="current">
              <date type="whenSubmitted">2026-01-08 13:59:05</date>
              <date type="whenModified">2026-04-09 08:29:25</date>
              <date type="whenReleased">2026-01-08 13:59:06</date>
              <date type="whenProduced">2025-06-18</date>
              <date type="whenEndEmbargoed">2026-01-08</date>
              <ref type="file" target="https://theses.hal.science/tel-05448644v1/document">
                <date notBefore="2026-01-08"/>
              </ref>
              <ref type="file" subtype="author" n="1" target="https://theses.hal.science/tel-05448644v1/file/144629_NISHIMWE_2025_archivage.pdf" id="file-5448644-4657511">
                <date notBefore="2026-01-08"/>
              </ref>
            </edition>
            <respStmt>
              <resp>contributor</resp>
              <name key="131274">
                <persName>
                  <forename>ABES</forename>
                  <surname>STAR</surname>
                </persName>
                <email type="md5">f5aa7f563b02bb6adbba7496989af39a</email>
                <email type="domain">abes.fr</email>
              </name>
            </respStmt>
          </editionStmt>
          <publicationStmt>
            <distributor>CCSD</distributor>
            <idno type="halId">tel-05448644</idno>
            <idno type="halUri">https://theses.hal.science/tel-05448644</idno>
            <idno type="halBibtex">nishimwe:tel-05448644</idno>
            <idno type="halRefHtml">Neural and Evolutionary Computing [cs.NE]. Sorbonne Université, 2025. English. &lt;a target="_blank" href="https://www.theses.fr/2025SORUS369"&gt;&amp;#x27E8;NNT : 2025SORUS369&amp;#x27E9;&lt;/a&gt;</idno>
            <idno type="halRef">Neural and Evolutionary Computing [cs.NE]. Sorbonne Université, 2025. English. &amp;#x27E8;NNT : 2025SORUS369&amp;#x27E9;</idno>
            <availability status="restricted">
              <licence target="https://hal.science/licences/copyright/">Copyright - All rights reserved<ref corresp="#file-5448644-4657511"/></licence>
            </availability>
          </publicationStmt>
          <seriesStmt>
            <idno type="stamp" n="INRIA">INRIA - Institut National de Recherche en Informatique et en Automatique</idno>
            <idno type="stamp" n="INRIA-ROCQ">INRIA Paris - Rocquencourt</idno>
            <idno type="stamp" n="STAR">STAR - Dépôt national des thèses électroniques</idno>
            <idno type="stamp" n="TESTALAIN1">TESTALAIN1</idno>
            <idno type="stamp" n="INRIA2">INRIA 2</idno>
            <idno type="stamp" n="SORBONNE-UNIVERSITE">Sorbonne Université</idno>
            <idno type="stamp" n="THESES-SU" corresp="SORBONNE-UNIVERSITE">Thèses de Sorbonne Université</idno>
            <idno type="stamp" n="SU-SCIENCES" corresp="SORBONNE-UNIVERSITE">Faculté des Sciences de Sorbonne Université</idno>
            <idno type="stamp" n="SU-TI">Sorbonne Université - Texte Intégral</idno>
            <idno type="stamp" n="ALLIANCE-SU"> Alliance Sorbonne Université</idno>
          </seriesStmt>
          <notesStmt/>
          <sourceDesc>
            <biblStruct>
              <analytic>
                <title xml:lang="en">Robust Neural Machine Translation of User-Generated Content</title>
                <title xml:lang="fr">Traduction automatique neuronale robuste</title>
                <author role="aut">
                  <persName>
                    <forename type="first">Lydia</forename>
                    <surname>Nishimwe</surname>
                  </persName>
                  <email type="md5">1d4ce91383c2909cc620ee7eaa823ad5</email>
                  <email type="domain">inria.fr</email>
                  <idno type="idhal" notation="string">lydia-nishimwe</idno>
                  <idno type="idhal" notation="numeric">1196760</idno>
                  <idno type="halauthorid" notation="string">2628109-1196760</idno>
                  <idno type="ORCID">https://orcid.org/0009-0009-7082-4711</idno>
                  <idno type="IDREF">https://www.idref.fr/292832389</idno>
                  <affiliation ref="#struct-482775"/>
                </author>
              </analytic>
              <monogr>
                <idno type="nnt">2025SORUS369</idno>
                <imprint>
                  <date type="dateDefended">2025-06-18</date>
                </imprint>
                <authority type="institution">Sorbonne Université</authority>
                <authority type="school">École doctorale Informatique, télécommunications et électronique de Paris (1992-....)</authority>
                <authority type="supervisor">Benoît Sagot</authority>
                <authority type="supervisor">Rachel Bawden</authority>
                <authority type="jury">Benjamin Piwowarski [Président]</authority>
                <authority type="jury">Marta Ruiz Costa-Jussà [Rapporteur]</authority>
                <authority type="jury">Rico Sennrich [Rapporteur]</authority>
                <authority type="jury">Antonios Anastasopoulos</authority>
                <authority type="jury">Darja Fišer</authority>
              </monogr>
            </biblStruct>
          </sourceDesc>
          <profileDesc>
            <langUsage>
              <language ident="en">English</language>
            </langUsage>
            <textClass>
              <keywords scheme="author">
                <term xml:lang="en">Deep learning</term>
                <term xml:lang="en">User-Generated content</term>
                <term xml:lang="en">Lexical normalisation</term>
                <term xml:lang="en">Robustness</term>
                <term xml:lang="en">Non standard texts</term>
                <term xml:lang="en">Machine translation</term>
                <term xml:lang="fr">Normalisation lexicale</term>
                <term xml:lang="fr">Traduction automatique</term>
                <term xml:lang="fr">Textes non standards</term>
                <term xml:lang="fr">Robustesse</term>
                <term xml:lang="fr">Apprentissage profond</term>
                <term xml:lang="fr">Contenus générés par les utilisateurs</term>
              </keywords>
              <classCode scheme="halDomain" n="info.info-ne">Computer Science [cs]/Neural and Evolutionary Computing [cs.NE]</classCode>
              <classCode scheme="halDomain" n="info.info-lg">Computer Science [cs]/Machine Learning [cs.LG]</classCode>
              <classCode scheme="halTypology" n="THESE">Theses</classCode>
              <classCode scheme="halOldTypology" n="THESE">Theses</classCode>
              <classCode scheme="halTreeTypology" n="THESE">Theses</classCode>
            </textClass>
            <abstract xml:lang="en">
              <p>User-generated content (UGC), such as social media text, presents significant challenges for natural language processing (NLP) due to its lexical variability and deviation from standard language norms. While neural machine translation (NMT) and sentence embedding models have achieved remarkable progress, their robustness to UGC remains limited. This thesis explores methods to improve the machine translation of UGC, with a focus on using sentence embeddings. We first analyse the performance of standard NMT models on UGC, identifying key challenges such as the negative effect of UGC on tokenisation and the scarcity of parallel UGC translation data. To mitigate these issues, we propose data augmentation techniques to train more robust models. Additionally, we explore lexical normalisation to reduce non-standardness in UGC. We also introduce RoLASER, a robust sentence embedding model trained via a teacher-student approach, designed to improve alignment between standard and UGC text representations. Extending this work, we develop RoSONAR, an NMT system that uses robust sentence embeddings to enhance translation quality for UGC. Our results demonstrate that robust embeddings and data augmentation significantly improve NMT performance on UGC, closing the gap between standard and non-standard text translation. Furthermore, we conduct a case study on LLMs to analyse evaluation challenges in UGC translation. We show that applying the same translation guidelines used to create the datasets significantly improves LLM-generated translations, highlighting the importance of consistent evaluation practices.Overall, this work shows that by building more robust language models and improving both the training data and evaluation methods, we can make automatic translation systems much better at handling the non-standard, expressive, and creative language found in UGC.</p>
            </abstract>
            <abstract xml:lang="fr">
              <p>L'essor du traitement automatique des langues (TAL) se vit dans un monde où l'on produit de plus en plus de contenus en ligne. En particulier sur les réseaux sociaux, les textes publiés par les internautes sont remplis de phénomènes non standard tels que les fautes d'orthographe, l'argot, les marques d'expressivité, etc. Ainsi, les modèles de TAL, en grande partie entraînés sur des données standard, voient leur performance diminuer lorsqu'ils sont appliqués aux contenus produits par les utilisateurs (ou UGC pour User-Generated Content). Cette thèse explore des méthodes pour améliorer la traduction automatique des UGC en s'appuyant sur des représentations vectorielles de phrases appelées « plongements » (embeddings) de phrases. Nous introduisons RoLASER, un modèle de plongements de phrases entraîné selon une approche professeur-élève pour mieux aligner les représentations textuelles standard et UGC, ainsi que RoSONAR, un modèle exploitant ces plongements de phrases robustes pour améliorer la traduction des UGC. Nos résultats montrent que des plongements robustes et l'augmentation de données améliorent significativement les performances de la traduction automatique neuronale sur les UGC, réduisant l'écart entre la traduction de textes standards et non standards. Par ailleurs, nous réalisons aussi une étude sur les grands modèles de langage (ou LLM pour Large Language Models) afin d'examiner les défis liés à l'évaluation de la traduction des UGC. Nous montrons qu'utiliser les mêmes directives de traduction que celles fournies aux annotateurs pour créer les jeux de données améliore considérablement les traductions générées par les LLM, soulignant ainsi l'importance de pratiques d'évaluation cohérentes. En conclusion, ce thèse montre que, en construisant des modèles de langue plus robustes et en améliorant à la fois les données d'entraînement et les méthodes d'évaluation, on peut rendre les systèmes de traduction automatique beaucoup plus efficaces pour traiter le langage non standard, expressif et créatif que l'on trouve dans les UGC.</p>
            </abstract>
          </profileDesc>
        </biblFull>
      </listBibl>
    </body>
    <back>
      <listOrg type="structures">
        <org type="researchteam" xml:id="struct-482775" status="VALID">
          <idno type="RNSR">201722248N</idno>
          <idno type="ROR">https://ror.org/05rnwy495</idno>
          <orgName>Automatic Language Modelling and ANAlysis &amp; Computational Humanities</orgName>
          <orgName type="acronym">ALMAnaCH</orgName>
          <date type="start">2017-01-01</date>
          <date type="end">2029-04-30</date>
          <desc>
            <address>
              <addrLine>48 Rue Barrault, 75013 Paris</addrLine>
              <country key="FR"/>
            </address>
            <ref type="url">https://www.inria.fr/equipes/almanach</ref>
          </desc>
          <listRelation>
            <relation active="#struct-454310" type="direct"/>
            <relation active="#struct-300009" type="indirect"/>
          </listRelation>
        </org>
        <org type="laboratory" xml:id="struct-454310" status="VALID">
          <idno type="IdRef">241614864</idno>
          <idno type="RNSR">196718247G</idno>
          <idno type="ROR">https://ror.org/05eyd5d35</idno>
          <orgName>Centre Inria de Paris</orgName>
          <date type="start">2016-03-10</date>
          <desc>
            <address>
              <addrLine>48 Rue Barrault, 75013 Paris</addrLine>
              <country key="FR"/>
            </address>
            <ref type="url">http://www.inria.fr/centre/paris</ref>
          </desc>
          <listRelation>
            <relation active="#struct-300009" type="direct"/>
          </listRelation>
        </org>
        <org type="institution" xml:id="struct-300009" status="VALID">
          <idno type="ROR">https://ror.org/02kvxyf05</idno>
          <orgName>Institut National de Recherche en Informatique et en Automatique</orgName>
          <orgName type="acronym">Inria</orgName>
          <desc>
            <address>
              <addrLine>Domaine de VoluceauRocquencourt - BP 10578153 Le Chesnay Cedex</addrLine>
              <country key="FR"/>
            </address>
            <ref type="url">http://www.inria.fr/en/</ref>
          </desc>
        </org>
      </listOrg>
    </back>
  </text>
</TEI>