<?xml version="1.0" encoding="utf-8"?>
<TEI xmlns="http://www.tei-c.org/ns/1.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xmlns:hal="http://hal.archives-ouvertes.fr/" xmlns:gml="http://www.opengis.net/gml/3.3/" xmlns:gmlce="http://www.opengis.net/gml/3.3/ce" version="1.1" xsi:schemaLocation="http://www.tei-c.org/ns/1.0 http://api.archives-ouvertes.fr/documents/aofr-sword.xsd">
  <teiHeader>
    <fileDesc>
      <titleStmt>
        <title>HAL TEI export of tel-05215057</title>
      </titleStmt>
      <publicationStmt>
        <distributor>CCSD</distributor>
        <availability status="restricted">
          <licence target="https://creativecommons.org/publicdomain/zero/1.0/">CC0 1.0 - Universal</licence>
        </availability>
        <date when="2026-05-17T01:29:08+02:00"/>
      </publicationStmt>
      <sourceDesc>
        <p part="N">HAL API Platform</p>
      </sourceDesc>
    </fileDesc>
  </teiHeader>
  <text>
    <body>
      <listBibl>
        <biblFull>
          <titleStmt>
            <title xml:lang="en">Turbulence modeling using machine learning driven by direct numerical simulations</title>
            <title xml:lang="fr">Développement de modèles de turbulence par apprentissage machine guidé par des simulations numériques directes</title>
            <author role="aut">
              <persName>
                <forename type="first">Jiayi</forename>
                <surname>Cai</surname>
              </persName>
              <email type="md5">0d66e11b2364468b957aa0c990a39d8f</email>
              <email type="domain">gmail.com</email>
              <idno type="idhal" notation="string">jiayi-cai</idno>
              <idno type="idhal" notation="numeric">1364744</idno>
              <idno type="halauthorid" notation="string">3029723-1364744</idno>
              <idno type="ARXIV">https://arxiv.org/a/cai_j_2</idno>
              <idno type="IDREF">https://www.idref.fr/283016108</idno>
              <idno type="ORCID">https://orcid.org/0009-0001-6074-5894</idno>
              <affiliation ref="#struct-1061259"/>
              <affiliation ref="#struct-1187602"/>
              <affiliation ref="#struct-1065304"/>
            </author>
            <editor role="depositor">
              <persName>
                <forename>ABES</forename>
                <surname>STAR</surname>
              </persName>
              <email type="md5">f5aa7f563b02bb6adbba7496989af39a</email>
              <email type="domain">abes.fr</email>
            </editor>
          </titleStmt>
          <editionStmt>
            <edition n="v1" type="current">
              <date type="whenSubmitted">2025-08-19 15:43:06</date>
              <date type="whenModified">2026-04-09 04:27:49</date>
              <date type="whenReleased">2025-08-19 15:43:07</date>
              <date type="whenProduced">2024-12-13</date>
              <date type="whenEndEmbargoed">2025-08-19</date>
              <ref type="file" target="https://theses.hal.science/tel-05215057v1/document">
                <date notBefore="2025-08-19"/>
              </ref>
              <ref type="file" subtype="author" n="1" target="https://theses.hal.science/tel-05215057v1/file/139912_CAI_2024_archivage.pdf" id="file-5215057-4487839">
                <date notBefore="2025-08-19"/>
              </ref>
            </edition>
            <respStmt>
              <resp>contributor</resp>
              <name key="131274">
                <persName>
                  <forename>ABES</forename>
                  <surname>STAR</surname>
                </persName>
                <email type="md5">f5aa7f563b02bb6adbba7496989af39a</email>
                <email type="domain">abes.fr</email>
              </name>
            </respStmt>
          </editionStmt>
          <publicationStmt>
            <distributor>CCSD</distributor>
            <idno type="halId">tel-05215057</idno>
            <idno type="halUri">https://theses.hal.science/tel-05215057</idno>
            <idno type="halBibtex">cai:tel-05215057</idno>
            <idno type="halRefHtml">Fluid mechanics [physics.class-ph]. Université Paris-Saclay, 2024. English. &lt;a target="_blank" href="https://www.theses.fr/2024UPAST171"&gt;&amp;#x27E8;NNT : 2024UPAST171&amp;#x27E9;&lt;/a&gt;</idno>
            <idno type="halRef">Fluid mechanics [physics.class-ph]. Université Paris-Saclay, 2024. English. &amp;#x27E8;NNT : 2024UPAST171&amp;#x27E9;</idno>
            <availability status="restricted">
              <licence target="https://about.hal.science/hal-authorisation-v1/">HAL Authorization<ref corresp="#file-5215057-4487839"/></licence>
            </availability>
          </publicationStmt>
          <seriesStmt>
            <idno type="stamp" n="CEA">CEA - Commissariat à l'énergie atomique</idno>
            <idno type="stamp" n="CNRS">CNRS - Centre national de la recherche scientifique</idno>
            <idno type="stamp" n="STAR">STAR - Dépôt national des thèses électroniques</idno>
            <idno type="stamp" n="CENTRALESUPELEC">Ecole CentraleSupélec</idno>
            <idno type="stamp" n="DEN" corresp="CEA">Direction des énergies</idno>
            <idno type="stamp" n="CEA-UPSAY" corresp="CEA">CEA - Université Paris-Saclay</idno>
            <idno type="stamp" n="TDS-MACS">Réseau de recherche en Théorie des Systèmes Distribués, Modélisation, Analyse et Contrôle des Systèmes</idno>
            <idno type="stamp" n="UNIV-PARIS-SACLAY">Université Paris-Saclay</idno>
            <idno type="stamp" n="DEN-SACLAY">DES Saclay</idno>
            <idno type="stamp" n="UNIVERSITE-PARIS-SACLAY" corresp="UNIV-PARIS-SACLAY">Université Paris-Saclay</idno>
            <idno type="stamp" n="LISN">Laboratoire Interdisciplinaire des Sciences du Numérique</idno>
            <idno type="stamp" n="GS-COMPUTER-SCIENCE">Graduate School Computer Science</idno>
            <idno type="stamp" n="LISN-DATAFLOT" corresp="LISN">DAta science, TrAnsition, Fluid instabiLity, contrOl, Turbulence </idno>
            <idno type="stamp" n="ISAS" corresp="CEA">Institut des Sciences Appliquées et de la Simulation pour les énergies bas carbone</idno>
            <idno type="stamp" n="PSACLAY-TEST">Université Paris-Saclay - Collection pour tests</idno>
          </seriesStmt>
          <notesStmt/>
          <sourceDesc>
            <biblStruct>
              <analytic>
                <title xml:lang="en">Turbulence modeling using machine learning driven by direct numerical simulations</title>
                <title xml:lang="fr">Développement de modèles de turbulence par apprentissage machine guidé par des simulations numériques directes</title>
                <author role="aut">
                  <persName>
                    <forename type="first">Jiayi</forename>
                    <surname>Cai</surname>
                  </persName>
                  <email type="md5">0d66e11b2364468b957aa0c990a39d8f</email>
                  <email type="domain">gmail.com</email>
                  <idno type="idhal" notation="string">jiayi-cai</idno>
                  <idno type="idhal" notation="numeric">1364744</idno>
                  <idno type="halauthorid" notation="string">3029723-1364744</idno>
                  <idno type="ARXIV">https://arxiv.org/a/cai_j_2</idno>
                  <idno type="IDREF">https://www.idref.fr/283016108</idno>
                  <idno type="ORCID">https://orcid.org/0009-0001-6074-5894</idno>
                  <affiliation ref="#struct-1061259"/>
                  <affiliation ref="#struct-1187602"/>
                  <affiliation ref="#struct-1065304"/>
                </author>
              </analytic>
              <monogr>
                <idno type="nnt">2024UPAST171</idno>
                <imprint>
                  <date type="dateDefended">2024-12-13</date>
                </imprint>
                <authority type="institution">Université Paris-Saclay</authority>
                <authority type="school">École doctorale Sciences mécaniques et énergétiques, matériaux et géosciences (Gif-sur-Yvette, Essonne ; 2015-....)</authority>
                <authority type="supervisor">Didier Lucor</authority>
                <authority type="supervisor">Pierre-Emmanuel Angeli</authority>
                <authority type="supervisor">Guillaume Damblin</authority>
                <authority type="jury">Paola Cinnella [Président]</authority>
                <authority type="jury">Andrea Beck [Rapporteur]</authority>
                <authority type="jury">Guillaume Balarac [Rapporteur]</authority>
                <authority type="jury">Alejandro Ribés Cortés</authority>
                <authority type="jury">Denis Sipp</authority>
              </monogr>
            </biblStruct>
          </sourceDesc>
          <profileDesc>
            <langUsage>
              <language ident="en">English</language>
            </langUsage>
            <textClass>
              <keywords scheme="author">
                <term xml:lang="en">DNS</term>
                <term xml:lang="en">RANS</term>
                <term xml:lang="en">Neural networks</term>
                <term xml:lang="en">Machine learning</term>
                <term xml:lang="en">Turbulence modeling</term>
                <term xml:lang="fr">DNS</term>
                <term xml:lang="fr">RANS</term>
                <term xml:lang="fr">Réseaux de neurones</term>
                <term xml:lang="fr">Apprentissage machine</term>
                <term xml:lang="fr">Modélisation de turbulence</term>
              </keywords>
              <classCode scheme="halDomain" n="phys.meca.mefl">Physics [physics]/Mechanics [physics]/Fluid mechanics [physics.class-ph]</classCode>
              <classCode scheme="halDomain" n="info.info-lg">Computer Science [cs]/Machine Learning [cs.LG]</classCode>
              <classCode scheme="halDomain" n="info.info-mo">Computer Science [cs]/Modeling and Simulation</classCode>
              <classCode scheme="halTypology" n="THESE">Theses</classCode>
              <classCode scheme="halOldTypology" n="THESE">Theses</classCode>
              <classCode scheme="halTreeTypology" n="THESE">Theses</classCode>
            </textClass>
            <abstract xml:lang="en">
              <p>In the field of computational fluid dynamics, the Reynolds-Averaged Navier-Stokes (RANS) models allow the resolution of mean flow quantities at a much lower computational cost than the "exact" resolution provided by Direct Numerical Simulation (DNS). However, these models require significant modeling efforts. One major challenge is the modeling of the Reynolds Stress Tensor (RST), which emerges when applying a statistical averaging operator to the Navier-Stokes equations. The most commonly used model for this tensor is the linear Boussinesq hypothesis, but it suffers from some well-known limitations. Numerous generalizations have been proposed in the literature, though they also lack universality. While these complex closures are often based on semi-empirical considerations, advances in computational power now make it possible to establish physics-informed and DNS data-driven neural network-based closure models. In recent years, various machine-learning frameworks have been developed in this domain, showing promising results. Of particular relevance to this thesis is the Tensor Basis Neural Network (TBNN) framework, based on deep neural networks which aims to predict the anisotropy tensor (a scaled version of the RST). A key advantage of this framework is its incorporation of Galilean and rotational invariances, achieved by embedding the General Eddy Viscosity Model into the neural network architecture. Building upon the TBNN framework, this work aims to develop and validate an augmented Tensor Basis Neural Network (aTBNN) for two canonical wall-bounded flows: Plane Channel Flow (PCF) and Square Duct Flow (SDF). The research is divided into two phases: a priori and a posteriori phases. The a priori phase focuses on configuring, training, and evaluating the aTBNN. In this phase, additional input features, an optimized tensor basis, and advanced training strategies are employed to produce balanced and physically accurate predictions of the anisotropy tensor. Following this, the trained aTBNN is integrated into the in-house CFD code TrioCFD to assess its performance in predicting realistic flow behavior, such as velocity profiles. The a posteriori validation is particularly important, as previous studies have shown that even with high-fidelity RST inputs, RANS solvers can produce unsatisfactory velocity field predictions. To address this, various high-fidelity data propagation models and neural network models are implemented and compared with baseline RANS models in TrioCFD. Two coupling strategies, iterative and frozen substitution, are tested to integrate the aTBNN with baseline RANS models, along with extra neural networks for turbulent kinetic energy and dissipation rate corrections. For the PCF case, both a priori and a posteriori results from the proposed framework demonstrate promising outcomes, outperforming classical RANS models in certain cases and showing strong agreement with the DNS data. The SDF case presents more challenges due to the physical complexity of secondary flows and the limited availability of training data across different turbulence regimes. The iterative coupling method, in particular, proved to be unstable in this case. However, the frozen substitution method has shown potential for achieving accurate results, which requires further investigation.</p>
            </abstract>
            <abstract xml:lang="fr">
              <p>En simulation numérique de la turbulence, les modèles RANS (Reynolds-Averaged Navier-Stokes) permettent de résoudre les grandeurs moyennes des écoulements pour un coût de calcul très inférieur à la résolution "exacte" par simulation numérique directe (DNS). Ils exigent cependant un effort de modélisation considérable. L'une des problématiques habituellement rencontrées est celle de la modélisation du tenseur de Reynolds (RST), qui apparaît lors de l'application aux équations de Navier-Stokes d'un opérateur de moyenne statistique. Le modèle le plus couramment utilisé pour ce tenseur est l'hypothèse linéaire de Boussinesq, mais il souffre de nombreux défauts. Diverses généralisations ont été proposées dans la littérature, bien qu'elles manquent également d'universalité. Alors que ces fermetures complexes sont souvent basées sur des considérations semi-empiriques, il est désormais possible, grâce à l'accroissement des ressources informatiques, d'établir des modèles de fermeture neuronaux basés à la fois sur la physique et sur les données et notamment les données DNS. Ces dernières années, plusieurs modèles d'apprentissage automatique ont été développés dans ce domaine et ont montré des résultats prometteurs. Un modèle particulièrement pertinent pour cette thèse est celui des réseaux de neurones à base tensorielle (TBNN), s'appuyant sur des réseaux de neurones profonds qui vise à prédire le tenseur d'anisotropie (une version adimensionnée du RST). L'avantage principal de ce modèle est qu'il garantit l'invariance galiléenne et rotationnelle, en incorporant le modèle physique, le Modèle Généralisé de Viscosité Turbulente (GEVM), dans l'architecture du réseau neuronal. En prenant en compte les forces et les limites des études TBNN existantes, l'objectif principal de cette thèse est de développer et valider un TBNN augmenté (aTBNN) pour deux types d'écoulements confinés : l'écoulement de canal plan (PCF) et l'écoulement de canal carré (SDF). Ce travail est divisé en deux phases : la phase a priori et la phase a posteriori. La phase a priori se concentre sur la configuration, l'entraînement et l'évaluation de l'aTBNN. Dans cette phase, des entrées supplémentaires du réseau, une base tensorielle optimisée et des stratégies d'apprentissage avancées sont utilisées pour obtenir des prédictions équilibrées et physiquement correctes du tenseur d'anisotropie. Ensuite, l'aTBNN entraîné est intégré dans le code maison TrioCFD afin d'évaluer ses performances dans la prédiction de l'écoulement, en particulier le champ de vitesse. La validation a posteriori est particulièrement importante car plusieurs études ont montré que, même avec des entrées RST haute-fidélité, les solveurs RANS peuvent produire des prédictions de champ de vitesse insatisfaisantes. Pour répondre à cela, divers modèles de propagation de données haute-fidélité et modèles neuronaux sont implémentés et comparés aux modèles RANS de référence dans TrioCFD. Deux stratégies de couplage, la substitution itérative et la substitution figée, sont testées pour intégrer l'aTBNN avec les modèles RANS de référence, en combinaison avec des réseaux neuronaux supplémentaires pour corriger l'énergie cinétique turbulente et le taux de dissipation. Pour le cas du PCF, les simulations a priori et a posteriori montrent des résultats prometteurs, les modèles neuronaux dépassant les modèles RANS classiques dans plusieurs cas et montrant une forte concordance avec les données DNS. En revanche, le cas SDF présente de plus grands défis en raison de la complexité physique des écoulements secondaires et du manque de données d'entraînement couvrant différents régimes turbulents. En particulier, la méthode de couplage itératif s'est révélée instable dans ce scénario. Cependant, la méthode de substitution figée a montré un potentiel pour obtenir des résultats cohérents, et mérite une investigation plus approfondie pour exploiter pleinement ses capacités.</p>
            </abstract>
          </profileDesc>
        </biblFull>
      </listBibl>
    </body>
    <back>
      <listOrg type="structures">
        <org type="laboratory" xml:id="struct-1061259" status="VALID">
          <idno type="IdRef">253160316</idno>
          <idno type="RNSR">202123711L</idno>
          <idno type="ROR">https://ror.org/00rd81916</idno>
          <idno type="Wikidata">Q109620676</idno>
          <orgName>Laboratoire Interdisciplinaire des Sciences du Numérique</orgName>
          <orgName type="acronym">LISN</orgName>
          <date type="start">2021-01-01</date>
          <desc>
            <address>
              <addrLine>Campus Universitaire bât 507Rue du Belvédère91405 Orsay cedexet Campus Universitaire bât 6401 rue Raimond Castaing91190 Gif-sur-Yvette</addrLine>
              <country key="FR"/>
            </address>
            <ref type="url">https://www.lisn.upsaclay.fr/</ref>
          </desc>
          <listRelation>
            <relation active="#struct-300009" type="direct"/>
            <relation active="#struct-411575" type="direct"/>
            <relation active="#struct-419361" type="direct"/>
            <relation name="UMR9015" active="#struct-441569" type="direct"/>
          </listRelation>
        </org>
        <org type="researchteam" xml:id="struct-1187602" status="VALID">
          <orgName>Service de Thermo-hydraulique et de Mécanique des Fluides</orgName>
          <orgName type="acronym">STMF</orgName>
          <desc>
            <address>
              <country key="FR"/>
            </address>
          </desc>
          <listRelation>
            <relation active="#struct-1187595" type="direct"/>
            <relation active="#struct-1007584" type="indirect"/>
            <relation name="DES/Saclay" active="#struct-92792" type="indirect"/>
            <relation name="DES" active="#struct-300016" type="indirect"/>
            <relation active="#struct-419361" type="indirect"/>
          </listRelation>
        </org>
        <org type="researchteam" xml:id="struct-1065304" status="VALID">
          <orgName>DAtascience, trAnsition, Fluid instability, contrOl, Turbulence   LISN</orgName>
          <orgName type="acronym">DATAFLOT</orgName>
          <date type="start">2021-01-01</date>
          <desc>
            <address>
              <addrLine>Université Paris-Saclay, Bâtiment 507, 91405 Orsay Cedex</addrLine>
              <country key="FR"/>
            </address>
          </desc>
          <listRelation>
            <relation active="#struct-1061259" type="direct"/>
            <relation active="#struct-300009" type="indirect"/>
            <relation active="#struct-411575" type="indirect"/>
            <relation active="#struct-419361" type="indirect"/>
            <relation name="UMR9015" active="#struct-441569" type="indirect"/>
            <relation active="#struct-1065370" type="direct"/>
          </listRelation>
        </org>
        <org type="institution" xml:id="struct-300009" status="VALID">
          <idno type="ROR">https://ror.org/02kvxyf05</idno>
          <orgName>Institut National de Recherche en Informatique et en Automatique</orgName>
          <orgName type="acronym">Inria</orgName>
          <desc>
            <address>
              <addrLine>Domaine de VoluceauRocquencourt - BP 10578153 Le Chesnay Cedex</addrLine>
              <country key="FR"/>
            </address>
            <ref type="url">http://www.inria.fr/en/</ref>
          </desc>
        </org>
        <org type="institution" xml:id="struct-411575" status="VALID">
          <idno type="IdRef">184443237</idno>
          <idno type="ROR">https://ror.org/019tcpt25</idno>
          <orgName>CentraleSupélec</orgName>
          <desc>
            <address>
              <addrLine>3, rue Joliot Curie,Plateau de Moulon,91192 GIF-SUR-YVETTE Cedex</addrLine>
              <country key="FR"/>
            </address>
            <ref type="url">http://www.centralesupelec.fr</ref>
          </desc>
        </org>
        <org type="institution" xml:id="struct-419361" status="VALID">
          <idno type="IdRef">241345251</idno>
          <idno type="ROR">https://ror.org/03xjwb503</idno>
          <orgName>Université Paris-Saclay</orgName>
          <desc>
            <address>
              <addrLine>Bâtiment Bréguet, 3 Rue Joliot Curie 2e ét, 91190 Gif-sur-Yvette</addrLine>
              <country key="FR"/>
            </address>
            <ref type="url">https://www.universite-paris-saclay.fr/fr</ref>
          </desc>
        </org>
        <org type="regroupinstitution" xml:id="struct-441569" status="VALID">
          <idno type="IdRef">02636817X</idno>
          <idno type="ISNI">0000000122597504</idno>
          <idno type="ROR">https://ror.org/02feahw73</idno>
          <orgName>Centre National de la Recherche Scientifique</orgName>
          <orgName type="acronym">CNRS</orgName>
          <date type="start">1939-10-19</date>
          <desc>
            <address>
              <country key="FR"/>
            </address>
            <ref type="url">https://www.cnrs.fr/</ref>
          </desc>
        </org>
        <org type="department" xml:id="struct-1187595" status="VALID">
          <idno type="RNSR">200118576S</idno>
          <orgName>Département de Modélisation des Systèmes et Structures</orgName>
          <orgName type="acronym">DM2S</orgName>
          <desc>
            <address>
              <addrLine>DES/ISAS/DM2S CEA Saclay 91191 Gif sur Yvette</addrLine>
              <country key="FR"/>
            </address>
          </desc>
          <listRelation>
            <relation active="#struct-1007584" type="direct"/>
            <relation name="DES/Saclay" active="#struct-92792" type="indirect"/>
            <relation name="DES" active="#struct-300016" type="indirect"/>
            <relation active="#struct-419361" type="indirect"/>
          </listRelation>
        </org>
        <org type="laboratory" xml:id="struct-1007584" status="VALID">
          <idno type="IdRef">248983385</idno>
          <idno type="RNSR">202023589H</idno>
          <orgName>Institut des Sciences Appliquées et de la Simulation pour les énergies bas carbone</orgName>
          <orgName type="acronym">ISAS</orgName>
          <date type="start">2020-01-01</date>
          <desc>
            <address>
              <addrLine>CEA Saclay 91191 Gif-sur-Yvette</addrLine>
              <country key="FR"/>
            </address>
          </desc>
          <listRelation>
            <relation name="DES/Saclay" active="#struct-92792" type="direct"/>
            <relation name="DES" active="#struct-300016" type="indirect"/>
            <relation active="#struct-419361" type="direct"/>
          </listRelation>
        </org>
        <org type="regrouplaboratory" xml:id="struct-92792" status="VALID">
          <idno type="IdRef">134643534</idno>
          <idno type="ISNI">0000000121804137</idno>
          <idno type="RNSR">200018571R</idno>
          <idno type="ROR">https://ror.org/03cwzta72</idno>
          <idno type="Wikidata"> Q30299415</idno>
          <orgName>CEA-Direction des Energies (ex-Direction de l'Energie Nucléaire)</orgName>
          <orgName type="acronym">CEA-DES (ex-DEN)</orgName>
          <desc>
            <address>
              <country key="FR"/>
            </address>
          </desc>
          <listRelation>
            <relation name="DES" active="#struct-300016" type="direct"/>
          </listRelation>
        </org>
        <org type="institution" xml:id="struct-300016" status="VALID">
          <idno type="IdRef">026372061</idno>
          <idno type="ISNI">0000000122998025</idno>
          <idno type="ROR">https://ror.org/00jjx8s55</idno>
          <idno type="Wikidata">Q868550</idno>
          <orgName>Commissariat à l'énergie atomique et aux énergies alternatives</orgName>
          <orgName type="acronym">CEA</orgName>
          <desc>
            <address>
              <addrLine>Centre de SaclayCentre de GrenobleCentre de Cadaracheetc</addrLine>
              <country key="FR"/>
            </address>
            <ref type="url">http://www.cea.fr/</ref>
          </desc>
        </org>
        <org type="department" xml:id="struct-1065370" status="VALID">
          <orgName>Mécanique-Energétique</orgName>
          <orgName type="acronym">M.-E.</orgName>
          <date type="start">2021-01-01</date>
          <desc>
            <address>
              <country key="FR"/>
            </address>
          </desc>
          <listRelation>
            <relation active="#struct-1061259" type="direct"/>
            <relation active="#struct-300009" type="indirect"/>
            <relation active="#struct-411575" type="indirect"/>
            <relation active="#struct-419361" type="indirect"/>
            <relation name="UMR9015" active="#struct-441569" type="indirect"/>
          </listRelation>
        </org>
      </listOrg>
    </back>
  </text>
</TEI>