Turbulence modeling using machine learning driven by direct numerical simulations
Développement de modèles de turbulence par apprentissage machine guidé par des simulations numériques directes
Résumé
In the field of computational fluid dynamics, the Reynolds-Averaged Navier-Stokes (RANS) models allow the resolution of mean flow quantities at a much lower computational cost than the "exact" resolution provided by Direct Numerical Simulation (DNS). However, these models require significant modeling efforts. One major challenge is the modeling of the Reynolds Stress Tensor (RST), which emerges when applying a statistical averaging operator to the Navier-Stokes equations. The most commonly used model for this tensor is the linear Boussinesq hypothesis, but it suffers from some well-known limitations. Numerous generalizations have been proposed in the literature, though they also lack universality. While these complex closures are often based on semi-empirical considerations, advances in computational power now make it possible to establish physics-informed and DNS data-driven neural network-based closure models. In recent years, various machine-learning frameworks have been developed in this domain, showing promising results. Of particular relevance to this thesis is the Tensor Basis Neural Network (TBNN) framework, based on deep neural networks which aims to predict the anisotropy tensor (a scaled version of the RST). A key advantage of this framework is its incorporation of Galilean and rotational invariances, achieved by embedding the General Eddy Viscosity Model into the neural network architecture. Building upon the TBNN framework, this work aims to develop and validate an augmented Tensor Basis Neural Network (aTBNN) for two canonical wall-bounded flows: Plane Channel Flow (PCF) and Square Duct Flow (SDF). The research is divided into two phases: a priori and a posteriori phases. The a priori phase focuses on configuring, training, and evaluating the aTBNN. In this phase, additional input features, an optimized tensor basis, and advanced training strategies are employed to produce balanced and physically accurate predictions of the anisotropy tensor. Following this, the trained aTBNN is integrated into the in-house CFD code TrioCFD to assess its performance in predicting realistic flow behavior, such as velocity profiles. The a posteriori validation is particularly important, as previous studies have shown that even with high-fidelity RST inputs, RANS solvers can produce unsatisfactory velocity field predictions. To address this, various high-fidelity data propagation models and neural network models are implemented and compared with baseline RANS models in TrioCFD. Two coupling strategies, iterative and frozen substitution, are tested to integrate the aTBNN with baseline RANS models, along with extra neural networks for turbulent kinetic energy and dissipation rate corrections. For the PCF case, both a priori and a posteriori results from the proposed framework demonstrate promising outcomes, outperforming classical RANS models in certain cases and showing strong agreement with the DNS data. The SDF case presents more challenges due to the physical complexity of secondary flows and the limited availability of training data across different turbulence regimes. The iterative coupling method, in particular, proved to be unstable in this case. However, the frozen substitution method has shown potential for achieving accurate results, which requires further investigation.
En simulation numérique de la turbulence, les modèles RANS (Reynolds-Averaged Navier-Stokes) permettent de résoudre les grandeurs moyennes des écoulements pour un coût de calcul très inférieur à la résolution "exacte" par simulation numérique directe (DNS). Ils exigent cependant un effort de modélisation considérable. L'une des problématiques habituellement rencontrées est celle de la modélisation du tenseur de Reynolds (RST), qui apparaît lors de l'application aux équations de Navier-Stokes d'un opérateur de moyenne statistique. Le modèle le plus couramment utilisé pour ce tenseur est l'hypothèse linéaire de Boussinesq, mais il souffre de nombreux défauts. Diverses généralisations ont été proposées dans la littérature, bien qu'elles manquent également d'universalité. Alors que ces fermetures complexes sont souvent basées sur des considérations semi-empiriques, il est désormais possible, grâce à l'accroissement des ressources informatiques, d'établir des modèles de fermeture neuronaux basés à la fois sur la physique et sur les données et notamment les données DNS. Ces dernières années, plusieurs modèles d'apprentissage automatique ont été développés dans ce domaine et ont montré des résultats prometteurs. Un modèle particulièrement pertinent pour cette thèse est celui des réseaux de neurones à base tensorielle (TBNN), s'appuyant sur des réseaux de neurones profonds qui vise à prédire le tenseur d'anisotropie (une version adimensionnée du RST). L'avantage principal de ce modèle est qu'il garantit l'invariance galiléenne et rotationnelle, en incorporant le modèle physique, le Modèle Généralisé de Viscosité Turbulente (GEVM), dans l'architecture du réseau neuronal. En prenant en compte les forces et les limites des études TBNN existantes, l'objectif principal de cette thèse est de développer et valider un TBNN augmenté (aTBNN) pour deux types d'écoulements confinés : l'écoulement de canal plan (PCF) et l'écoulement de canal carré (SDF). Ce travail est divisé en deux phases : la phase a priori et la phase a posteriori. La phase a priori se concentre sur la configuration, l'entraînement et l'évaluation de l'aTBNN. Dans cette phase, des entrées supplémentaires du réseau, une base tensorielle optimisée et des stratégies d'apprentissage avancées sont utilisées pour obtenir des prédictions équilibrées et physiquement correctes du tenseur d'anisotropie. Ensuite, l'aTBNN entraîné est intégré dans le code maison TrioCFD afin d'évaluer ses performances dans la prédiction de l'écoulement, en particulier le champ de vitesse. La validation a posteriori est particulièrement importante car plusieurs études ont montré que, même avec des entrées RST haute-fidélité, les solveurs RANS peuvent produire des prédictions de champ de vitesse insatisfaisantes. Pour répondre à cela, divers modèles de propagation de données haute-fidélité et modèles neuronaux sont implémentés et comparés aux modèles RANS de référence dans TrioCFD. Deux stratégies de couplage, la substitution itérative et la substitution figée, sont testées pour intégrer l'aTBNN avec les modèles RANS de référence, en combinaison avec des réseaux neuronaux supplémentaires pour corriger l'énergie cinétique turbulente et le taux de dissipation. Pour le cas du PCF, les simulations a priori et a posteriori montrent des résultats prometteurs, les modèles neuronaux dépassant les modèles RANS classiques dans plusieurs cas et montrant une forte concordance avec les données DNS. En revanche, le cas SDF présente de plus grands défis en raison de la complexité physique des écoulements secondaires et du manque de données d'entraînement couvrant différents régimes turbulents. En particulier, la méthode de couplage itératif s'est révélée instable dans ce scénario. Cependant, la méthode de substitution figée a montré un potentiel pour obtenir des résultats cohérents, et mérite une investigation plus approfondie pour exploiter pleinement ses capacités.
| Origine | Version validée par le jury (STAR) |
|---|---|
| Licence |
