Ensemble-based data assimilation for large scale simulations - TEL - Thèses en ligne Accéder directement au contenu
Thèse Année : 2022

Ensemble-based data assimilation for large scale simulations

Assimilation de données par ensemble pour les simulations à grandes échelles

Sebastian Friedemann
  • Fonction : Auteur
  • PersonId : 1187020
  • IdRef : 265622859

Résumé

Prediction of chaotic and non-linear systems like weather or the groundwater cyclerelies on a floating fusion of sensor data (observations) with numerical models todecide on good system trajectories and to compensate for non-linear feedback effects.Ensemble-based data assimilation (DA) is a major method for this concern. It relieson the propagation of an ensemble of perturbed model realizations (members) thatis enriched by the integration of observation data. Performing DA at large scale tocapture continental up to global geospatial effects, while running at high resolution toaccurately predict impacts from small scales is computationally demanding. This requiressupercomputers leveraging hundreds of thousands of compute nodes, interconnectedvia high-speed networks. Efficiently scaling DA algorithms to such machines requirescarefully designed highly parallelized workflows that avoid overloading of shared resources.Fault tolerance is of importance too, since the probability of hardware and numericalfaults increases with the amount of resources and the number of ensemble members.Existing DA frameworks either use the file system as intermediate storage to provide afault-tolerant and elastic workflow, which, at large scale, is slowed down by file systemoverload, or run large monolithic jobs that suffer from intrinsic load imbalance and arevery sensible to numerical and hardware faults. This thesis elaborates on a highly parallel,load-balanced, elastic, and fault-tolerant solution, enabling it to run efficiently statistical,ensemble-based DA at large scale. We investigate two classes of DA algorithms, the en-semble Kalman filter (EnKF), and the particle filter algorithm with sequential importanceresampling (SIR), and validate our framework under realistic conditions. Groundwatersensor data is assimilated using a regional hydrological simulation leveraging the ParFlowmodel. We efficiently run EnKF with up to 16,384 members on 16,240 compute coresfor this purpose. A comparison with an existing state-of-the-art solution on the samedomain, running 2,500 members on 20,000 cores, shows that our approach is about50 % faster. We also present performance improvements running particle filter withSIR at large scale. These experiments assimilate cloud coverage observations into2,555 members, i.e., particles, running the weather research and forecasting (WRF)model over the European domain. To manage the many experiments performed onvarious supercomputers, we developed a specific setup that we also present.
La prédiction de systèmes dynamiques non linéaires et chaotiques, comme la météo ou le cycle de l’eau, s’appuie sur la combination de données observées et de modèles numériques. L’assimilation de données (AD) par ensemble est une méthode majeure pour sélectionner les trajectoires du système et compenser les effets de rétroaction non linéaires. Elle s’appuie sur la propagation d’un ensemble de réalisations de modèles perturbés qui est enrichi par l’intégration d’observations. La réalisation de l’AD à diverses échelles est exigeante en terme de calcul. Par exemple, il faut capturer les effets géospatiaux continentaux et mondiaux avec une haute résolution pour prédire avec précision leurs impacts sur les petites échelles. Cela nécessite des super-ordinateurs exploitant des centaines de milliers de nœuds de calcul, interconnectés par des réseaux à haut débit. La mise à l’échelle efficace des algorithmes d’AD sur de telles machines nécessite des processus fortement parallélisés spécialement conçus pour éviter la surcharge des ressources partagées. La tolérance aux pannes est également importante. La probabilité de défaillances matérielles et numériques augmente avec la quantité de ressources utilisées et le nombre d’ensembles simulés. Les cadres d’AD existants utilisent le système de fichiers comme stockage intermédiaire pour fournir un processus élastique et tolérant aux pannes. Ce procédé est ralenti à grande échelle par la surcharge du système de fichiers. Une autre approche courante s’appuie sur un code monolithique qui souffre d’un déséquilibre de charge intrinsèque et est très sensibles aux fautes numériques et matérielles. Cette thèse présente un système fortement parallèle, équilibré dynamiquement en charge, élastique et tolérante aux pannes, lui permettant d’exécuter efficacement l’AD par ensemble. Nous étudions deux classes d’algorithmes d’AD, le filtre de Kalman d’ensemble (EnKF), et l’algorithme de filtre particulaire avec rééchantillonnage d’importance séquentiel (SIR). Nous validons notre approche dans des conditions réalistes. Des données de capteurs d’eau souterraine sont assimilées à l’aide d’une simulation hydrologique régionale utilisant le modèle ParFlow. Nous exécutons efficacement EnKF avec jusqu’à 16 384 membres sur 16 240 cœurs de calcul. Une comparaison avec une solution de l’état de l’art, avec 2 500 membres sur 20 000 cœurs, montre que notre approche est environ 50 % plus rapide. Nous présentons également des améliorations de performance en exécutant le filtre de particules avec SIR à grande échelle. Ces expériences assimilent des observations de couverture nuageuse avec 2 555 membres, correspondant ici à des particules, en exécutant le modèle de weather research and forecasting (WRF) sur le domaine européen. Afin de gérer les nombreuses expériences réalisées sur différents super-ordinateurs, nous avons mis en place une configuration spécifique que nous présentons également.
Fichier principal
Vignette du fichier
FRIEDEMANN_2022_archivage.pdf (6.42 Mo) Télécharger le fichier
Origine : Version validée par le jury (STAR)

Dates et versions

tel-03852854 , version 1 (15-11-2022)

Identifiants

  • HAL Id : tel-03852854 , version 1

Citer

Sebastian Friedemann. Ensemble-based data assimilation for large scale simulations. Modeling and Simulation. Université Grenoble Alpes [2020-..], 2022. English. ⟨NNT : 2022GRALM020⟩. ⟨tel-03852854⟩
72 Consultations
79 Téléchargements

Partager

Gmail Facebook X LinkedIn More