<?xml version="1.0" encoding="utf-8"?>
<TEI xmlns="http://www.tei-c.org/ns/1.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xmlns:hal="http://hal.archives-ouvertes.fr/" xmlns:gml="http://www.opengis.net/gml/3.3/" xmlns:gmlce="http://www.opengis.net/gml/3.3/ce" version="1.1" xsi:schemaLocation="http://www.tei-c.org/ns/1.0 http://api.archives-ouvertes.fr/documents/aofr-sword.xsd">
  <teiHeader>
    <fileDesc>
      <titleStmt>
        <title>HAL TEI export of tel-04059906</title>
      </titleStmt>
      <publicationStmt>
        <distributor>CCSD</distributor>
        <availability status="restricted">
          <licence target="https://creativecommons.org/publicdomain/zero/1.0/">CC0 1.0 - Universal</licence>
        </availability>
        <date when="2026-05-25T08:42:48+02:00"/>
      </publicationStmt>
      <sourceDesc>
        <p part="N">HAL API Platform</p>
      </sourceDesc>
    </fileDesc>
  </teiHeader>
  <text>
    <body>
      <listBibl>
        <biblFull>
          <titleStmt>
            <title xml:lang="en">A search for the neural bases of compositionality</title>
            <title xml:lang="fr">À la recherche des bases neurales de la compositionnalité</title>
            <author role="aut">
              <persName>
                <forename type="first">Théo</forename>
                <surname>Desbordes</surname>
              </persName>
              <idno type="idhal" notation="numeric">1245001</idno>
              <idno type="halauthorid" notation="string">2778690-1245001</idno>
              <idno type="IDREF">https://www.idref.fr/268691762</idno>
              <affiliation ref="#struct-106131"/>
            </author>
            <editor role="depositor">
              <persName>
                <forename>ABES</forename>
                <surname>STAR</surname>
              </persName>
              <email type="md5">f5aa7f563b02bb6adbba7496989af39a</email>
              <email type="domain">abes.fr</email>
            </editor>
          </titleStmt>
          <editionStmt>
            <edition n="v1" type="current">
              <date type="whenSubmitted">2023-04-05 17:55:09</date>
              <date type="whenModified">2026-04-07 17:10:35</date>
              <date type="whenReleased">2023-04-05 17:55:16</date>
              <date type="whenProduced">2022-12-13</date>
              <date type="whenEndEmbargoed">2023-04-05</date>
              <ref type="file" target="https://theses.hal.science/tel-04059906v1/document">
                <date notBefore="2023-04-05"/>
              </ref>
              <ref type="file" subtype="author" n="1" target="https://theses.hal.science/tel-04059906v1/file/DESBORDES_Theo_these_2022.pdf" id="file-4059906-3533552">
                <date notBefore="2023-04-05"/>
              </ref>
            </edition>
            <respStmt>
              <resp>contributor</resp>
              <name key="131274">
                <persName>
                  <forename>ABES</forename>
                  <surname>STAR</surname>
                </persName>
                <email type="md5">f5aa7f563b02bb6adbba7496989af39a</email>
                <email type="domain">abes.fr</email>
              </name>
            </respStmt>
          </editionStmt>
          <publicationStmt>
            <distributor>CCSD</distributor>
            <idno type="halId">tel-04059906</idno>
            <idno type="halUri">https://theses.hal.science/tel-04059906</idno>
            <idno type="halBibtex">desbordes:tel-04059906</idno>
            <idno type="halRefHtml">Neurons and Cognition [q-bio.NC]. Sorbonne Université, 2022. English. &lt;a target="_blank" href="https://www.theses.fr/2022SORUS502"&gt;&amp;#x27E8;NNT : 2022SORUS502&amp;#x27E9;&lt;/a&gt;</idno>
            <idno type="halRef">Neurons and Cognition [q-bio.NC]. Sorbonne Université, 2022. English. &amp;#x27E8;NNT : 2022SORUS502&amp;#x27E9;</idno>
            <availability status="restricted">
              <licence target="https://about.hal.science/hal-authorisation-v1/">HAL Authorization<ref corresp="#file-4059906-3533552"/></licence>
            </availability>
          </publicationStmt>
          <seriesStmt>
            <idno type="stamp" n="CEA">CEA - Commissariat à l'énergie atomique</idno>
            <idno type="stamp" n="STAR">STAR - Dépôt national des thèses électroniques</idno>
            <idno type="stamp" n="CEA-UPSAY" corresp="CEA">CEA - Université Paris-Saclay</idno>
            <idno type="stamp" n="UNIV-PARIS-SACLAY">Université Paris-Saclay</idno>
            <idno type="stamp" n="JOLIOT" corresp="CEA">Institut des Sciences du Vivant Frédéric JOLIOT</idno>
            <idno type="stamp" n="CEA-DRF" corresp="CEA">Direction de Recherche Fondamentale</idno>
            <idno type="stamp" n="NEUROSPIN" corresp="JOLIOT">Département NEUROSPIN</idno>
            <idno type="stamp" n="SORBONNE-UNIVERSITE">Sorbonne Université</idno>
            <idno type="stamp" n="THESES-SU" corresp="SORBONNE-UNIVERSITE">Thèses de Sorbonne Université</idno>
            <idno type="stamp" n="SU-SCIENCES" corresp="SORBONNE-UNIVERSITE">Faculté des Sciences de Sorbonne Université</idno>
            <idno type="stamp" n="UNIVERSITE-PARIS-SACLAY" corresp="UNIV-PARIS-SACLAY">Université Paris-Saclay</idno>
            <idno type="stamp" n="SU-TI">Sorbonne Université - Texte Intégral</idno>
            <idno type="stamp" n="GS-LIFE-SCIENCES-HEALTH" corresp="UNIVERSITE-PARIS-SACLAY">Graduate School Life Sciences and Health</idno>
            <idno type="stamp" n="ALLIANCE-SU"> Alliance Sorbonne Université</idno>
          </seriesStmt>
          <notesStmt/>
          <sourceDesc>
            <biblStruct>
              <analytic>
                <title xml:lang="en">A search for the neural bases of compositionality</title>
                <title xml:lang="fr">À la recherche des bases neurales de la compositionnalité</title>
                <author role="aut">
                  <persName>
                    <forename type="first">Théo</forename>
                    <surname>Desbordes</surname>
                  </persName>
                  <idno type="idhal" notation="numeric">1245001</idno>
                  <idno type="halauthorid" notation="string">2778690-1245001</idno>
                  <idno type="IDREF">https://www.idref.fr/268691762</idno>
                  <affiliation ref="#struct-106131"/>
                </author>
              </analytic>
              <monogr>
                <idno type="nnt">2022SORUS502</idno>
                <imprint>
                  <date type="dateDefended">2022-12-13</date>
                </imprint>
                <authority type="institution">Sorbonne Université</authority>
                <authority type="school">École doctorale Cerveau, cognition, comportement (Paris ; 1992-....)</authority>
                <authority type="supervisor">Stanislas Dehaene</authority>
                <authority type="supervisor">Jean-Rémi King</authority>
                <authority type="jury">Christophe Pallier [Président]</authority>
                <authority type="jury">Laura Gwilliams [Rapporteur]</authority>
                <authority type="jury">Lucia Melloni [Rapporteur]</authority>
                <authority type="jury">Alexandre Gramfort</authority>
              </monogr>
            </biblStruct>
          </sourceDesc>
          <profileDesc>
            <langUsage>
              <language ident="en">English</language>
            </langUsage>
            <textClass>
              <keywords scheme="author">
                <term xml:lang="en">Deep Learning</term>
                <term xml:lang="en">Language</term>
                <term xml:lang="en">Neuroscience</term>
                <term xml:lang="fr">Deep Learning</term>
                <term xml:lang="fr">Langage</term>
                <term xml:lang="fr">Neuroscience</term>
              </keywords>
              <classCode scheme="halDomain" n="sdv.neu">Life Sciences [q-bio]/Neurons and Cognition [q-bio.NC]</classCode>
              <classCode scheme="halTypology" n="THESE">Theses</classCode>
              <classCode scheme="halOldTypology" n="THESE">Theses</classCode>
              <classCode scheme="halTreeTypology" n="THESE">Theses</classCode>
            </textClass>
            <abstract xml:lang="en">
              <p>Wilhelm von Humboldt famously said that language makes “infinite use of finite means”. Concretely, humans are able to combine words following a fixed set of grammatical rules, yielding a limitless reservoir of meanings. This is what I mean by compositionality, and what this thesis has aimed to characterize. Using a combination of tools from linguistics, natural language processing and neuroimaging, I sought to describe how this impressive feat is implemented in the human brain. In the first part, I present a study that examines the rise of compositional representations. We isolate semantic processes by comparing normal sentences with ones made of meaningless pseudowords, aka Jabberwocky. Using joint magnetoencephalography and intracranial electroencephalography recordings, we show that the intrinsic dimensionality of the neural signals grows over time, and more so for normal sentences than Jabberwocky, portraying the progressive recruitment of neurons in the semantic representation. Furthermore, by means of multivariate decoding, we demonstrate that the dynamics of neural signals follow theoretically driven patterns, especially ramping and sentence-final signatures. In addition, we take advantage of the fine spatial resolution of intracranial recordings to quantify the participation of various brain regions in each of these steps and identify a chief role of the prefrontal cortex in compositional processes. Crucially, these signatures are present in state-of-the-art neural language models, but absent in untrained models, suggesting that learning language is associated with a predictable shaping of the neural vector space. Overall, we show that the neural representations of sentences grow with each additional meaning that can be added to the existing semantic manifold. The second study takes a finer experimental approach by focusing on the cortical representation of phrases composed of a small number of nouns and adjectives, in a working memory task with distinct sentence encoding, delay, and picture comparison stages. Using magnetoencephalography recordings and multivariate decoding, we collect brain responses to words in isolation and within increasingly longer phrases, and use these data to investigate the organization and temporal evolution of compositional representations. During the encoding phase, a cascade of activations follows each new word, and crucially, the representation of individual words is partially sustained until it can be coherently integrated into a phrase, at which point it fades away. Later, during the delay period, in which the subjects keep in mind the sentence to match it to a subsequent image, neural activity reflects the complexity of the sentence, as quantified by the number of different words it comprises. Finally, when the compositional representation has to be read-out, the speed of this mechanism is also modulated by complexity, as well as by the syntactic depth of the query: surface properties are detected faster than syntactically deeper ones. These findings suggest that the compositional word representations are compressed in working memory and require task-specific decompression to be accessed. Taken together, these findings shed new light on the nature of compositional representations in the human brain. Both studies point towards the idea that semantic representations are encoded in distributed vector spaces, perhaps similar to artificial neural language models and vector-symbolic architectures. We provide the first steps towards the characterization of these neural semantic spaces, their dimensionality and how they evolve over time.</p>
            </abstract>
            <abstract xml:lang="fr">
              <p>Wilhelm von Humboldt a déclaré que le langage « fait un usage infini de moyens finis». En effet, les humains sont capables de combiner des mots en suivant un ensemble fixe de règles grammaticales, produisant ainsi un réservoir illimité de sens. C'est ce que j'entends par compositionnalité et ce que cette thèse s'est attachée à caractériser. En utilisant une combinaison d'outils venant de la linguistique, du traitement automatique du langage et de la neuro-imagerie, j'ai cherché à décrire comment cet exploit est mis en œuvre dans le cerveau humain. Dans la première partie, je présente une étude qui examine l'émergence des représentations compositionnelles. Nous isolons les processus sémantiques en comparant des phrases normales avec celles faites de pseudo-mots dépourvus de sens, ou « Jabberwocky ». Dans une rare combinaison d'enregistrements de magnétoencéphalographie et d'électroencéphalographie intracrânienne, nous montrons que la dimensionnalité intrinsèque des signaux neuronaux croît avec le temps, et plus encore pour les phrases normales que le Jabberwocky, dépeignant le recrutement progressif des neurones dans la représentation compositionnelle. De plus, au moyen de décodage multivarié, nous démontrons que la dynamique des représentations suit des schémas théoriques, en particulier de rampe et de fin de phrase. De plus, nous profitons de la résolution spatiale fine des enregistrements intracrâniens pour quantifier la participation de différentes régions du cerveau à chacune de ces étapes et identifier notamment le rôle principal du cortex frontal dans les processus compositionnels. Crucialement, ces signatures étaient présentes dans des modèles de langage de pointe, mais absentes dans les modèles non entraînés, ce qui suggère que l'apprentissage du langage est associé à un remodelage prévisible de l'espace vectoriel neuronal. Finalement, nous montrons que les représentations neuronales croissent avec chaque signification supplémentaire qui peut être ajoutée à la variété sémantique existante. La deuxième étude adopte une approche expérimentale plus minutieuse en se concentrant sur les représentations corticales de phrases composées d’un petit nombre de noms et d'adjectifs, dans une tache de mémoire de travail avec des étapes distinctes d’encodage, de délai et de comparaison avec une image. À l'aide d'enregistrements magnétoencéphalographiques et du décodage multivarié, nous collectons les réponses cérébrales à des mots isolés ainsi que dans des phrases de plus en plus longues. Pendant la phase d'encodage, une cascade d'activations suit chaque nouveau mot et, surtout, la représentation des mots individuels est partiellement maintenue jusqu'à ce qu'elle puisse être intégrée de manière cohérente dans une phrase, après quoi elle s'estompe. Ensuite, pendant une période de délai, au cours de laquelle les sujets devaient retenir la phrase pour la comparer à une image ultérieure, l'activité neuronale reflète la complexité de la phrase, quantifiée par le nombre de mots différents qu'elle contient. Enfin, lorsque la représentation compositionnelle doit être lue, la vitesse de ce mécanisme est également modulée par la complexité, ainsi que par la profondeur syntaxique de la requête. Ces résultats suggèrent que les représentations compositionnelles sont compressées dans la mémoire de travail et nécessitent une décompression spécifique pour être accédées. Pris ensemble, ces résultats ouvrent une fenêtre sur la nature des représentations compositionnelles dans le cerveau humain. Les deux études pointent vers l'idée que les représentations sémantiques sont codées dans des espaces vectoriels distribués, peut-être semblables aux modèles de langage artificiel et aux architectures vectorielles symboliques. Nous proposons un premier pas vers la caractérisation de ces espaces sémantiques neuronaux, leur dimensionnalité et leur évolution dans le temps.</p>
            </abstract>
          </profileDesc>
        </biblFull>
      </listBibl>
    </body>
    <back>
      <listOrg type="structures">
        <org type="department" xml:id="struct-106131" status="VALID">
          <idno type="IdRef">236179462</idno>
          <idno type="RNSR">200616272R</idno>
          <orgName>Neuroimagerie cognitive - Psychologie cognitive expérimentale</orgName>
          <orgName type="acronym">UNICOG-U992</orgName>
          <desc>
            <address>
              <addrLine>Gif sur Yvette</addrLine>
              <country key="FR"/>
            </address>
            <ref type="url">http://www.unicog.org</ref>
          </desc>
          <listRelation>
            <relation active="#struct-40417" type="direct"/>
            <relation active="#struct-419361" type="direct"/>
            <relation active="#struct-487603" type="indirect"/>
            <relation name="DRF" active="#struct-300016" type="indirect"/>
            <relation name="U992" active="#struct-303623" type="direct"/>
          </listRelation>
        </org>
        <org type="laboratory" xml:id="struct-40417" status="VALID">
          <idno type="RNSR">201722552U</idno>
          <orgName>Service NEUROSPIN</orgName>
          <orgName type="acronym">NEUROSPIN</orgName>
          <desc>
            <address>
              <country key="FR"/>
            </address>
            <ref type="url">https://joliot.cea.fr/drf/joliot/recherche/neurospin</ref>
          </desc>
          <listRelation>
            <relation active="#struct-419361" type="direct"/>
            <relation active="#struct-487603" type="direct"/>
            <relation name="DRF" active="#struct-300016" type="indirect"/>
          </listRelation>
        </org>
        <org type="institution" xml:id="struct-419361" status="VALID">
          <idno type="IdRef">241345251</idno>
          <idno type="ROR">https://ror.org/03xjwb503</idno>
          <orgName>Université Paris-Saclay</orgName>
          <desc>
            <address>
              <addrLine>Bâtiment Bréguet, 3 Rue Joliot Curie 2e ét, 91190 Gif-sur-Yvette</addrLine>
              <country key="FR"/>
            </address>
            <ref type="url">https://www.universite-paris-saclay.fr/fr</ref>
          </desc>
        </org>
        <org type="regrouplaboratory" xml:id="struct-487603" status="VALID">
          <idno type="IdRef">262253712</idno>
          <idno type="RNSR">201722498K</idno>
          <idno type="ROR">https://ror.org/016pnwd02</idno>
          <idno type="Wikidata">Q61933008</idno>
          <orgName>Institut des Sciences du Vivant Frédéric JOLIOT</orgName>
          <orgName type="acronym">JOLIOT</orgName>
          <date type="start">2017-01-01</date>
          <desc>
            <address>
              <addrLine>DRFCEAGif-sur-Yvette</addrLine>
              <country key="FR"/>
            </address>
          </desc>
          <listRelation>
            <relation name="DRF" active="#struct-300016" type="direct"/>
          </listRelation>
        </org>
        <org type="institution" xml:id="struct-300016" status="VALID">
          <idno type="IdRef">026372061</idno>
          <idno type="ISNI">0000000122998025</idno>
          <idno type="ROR">https://ror.org/00jjx8s55</idno>
          <idno type="Wikidata">Q868550</idno>
          <orgName>Commissariat à l'énergie atomique et aux énergies alternatives</orgName>
          <orgName type="acronym">CEA</orgName>
          <desc>
            <address>
              <addrLine>Centre de SaclayCentre de GrenobleCentre de Cadaracheetc</addrLine>
              <country key="FR"/>
            </address>
            <ref type="url">http://www.cea.fr/</ref>
          </desc>
        </org>
        <org type="institution" xml:id="struct-303623" status="VALID">
          <idno type="IdRef">026388278</idno>
          <idno type="ROR">https://ror.org/02vjkv261</idno>
          <orgName>Institut National de la Santé et de la Recherche Médicale</orgName>
          <orgName type="acronym">INSERM</orgName>
          <desc>
            <address>
              <addrLine>101, rue de Tolbiac, 75013 Paris</addrLine>
              <country key="FR"/>
            </address>
            <ref type="url">http://www.inserm.fr</ref>
          </desc>
        </org>
      </listOrg>
    </back>
  </text>
</TEI>