A General framework for Neuron Instance Segmentation based on Deep Learning - TEL - Thèses en ligne Accéder directement au contenu
Thèse Année : 2022

A General framework for Neuron Instance Segmentation based on Deep Learning

Un cadre général pour la segmentation d'instance de neurones basé sur l'apprentissage profond

Résumé

Advances in virtual microscopy allow scanning whole slide images, capturing details at the cellular level and revealing the complexity of brain structures. Unbiased quantification of the distribution and features of neuronal cells is essential for understanding the mechanisms involved in brain development, aging, and neurodegenerative diseases. A crucial prerequisite for such studies is the identification of individual neurons. In this thesis, we developed a deep learning-based segmentation framework for identifying individual neurons stained with NeuN in histological brain sections. Considering the tremendous manual labeling workload at the cellular scale to build a training dataset, we first proposed a pixel-level mask synthesis pipeline based on point annotations. The synthetic masks contain three classes: neurons, tissue, and inter-cell contours. They were used as the ground truth to train and compare different network architectures. EfficientUNet was chosen as it has the best trade-off between accuracy and efficiency. The prediction of the neural network produced a semantic segmentation. To further separate touching and overlapping neurons, we developed an original post-processing scheme based on ultimate erosion and dynamic reconstruction. We evaluated the proposed framework in a macaque brain dataset containing major anatomical regions and demonstrated its effectiveness, with an average F1 score of 0.92. Furthermore, we adapted the inference of the segmentation network for processing whole slide images using hybrid multi-CPU-GPU resources. An entire brain section of the mouse was processed via a user-friendly interface. Additionally, to improve the robustness of the segmentation framework against color inconsistencies in microscopic images, we investigated two generative adversarial networks-based color normalization approaches to correct the color variations between images. Evaluation results show the superiority of these methods over conventional methods.
Les progrès de la microscopie virtuelle permettent de scanner des images de lames entières, de capturer des détails au niveau cellulaire et de révéler la complexité des structures cérébrales. La quantification non biaisée de la distribution et des caractéristiques des cellules neuronales est essentielle pour comprendre les mécanismes impliqués dans le développement, le vieillissement du cerveau ainsi que les maladies neurodégénératives. Un prérequis crucial pour de telles études est l'identification individuelle des neurones. Dans cette thèse, nous avons développé un environnement de segmentation basé sur l'apprentissage profond pour identifier individuellement les neurones marqués avec NeuN dans des coupes histologiques du cerveau. Compte tenu de la charge de travail que représente l'étiquetage manuel des cellules pour construire un ensemble de données d'entraînement, nous avons d'abord proposé une méthode de synthèse de masques au niveau des neurones basée sur des points annotés manuellement. Les masques synthétiques contiennent trois classes : les neurones, le tissu et les contours intercellulaires. Ils ont été utilisés comme étant la vérité terrain pour entraîner et comparer différentes architectures de réseau. EfficientUNet a été choisi car il représente le meilleur compromis entre précision et efficacité. La prédiction du réseau des neurones a produit une segmentation sémantique. Afin de séparer les neurones qui se touchent ou se chevauchent, nous avons développé une approche originale de post-traitement basée sur l'érosion ultime et une reconstruction dynamique. Nous avons évalué la méthodologie proposée sur un ensemble de données provenant d'un cerveau de macaque et contenant les principales régions anatomiques. L'efficacité de cette méthodologie a été démontrée avec un score F1 moyen de 0,92. De plus, nous avons adapté l'inférence du réseau de segmentation pour le traitement d'images entières de lames en utilisant des ressources hybrides multi-CPU-GPU. Une coupe entière du cerveau d'une souris a été traitée via une interface ergonomique et simple d'utilisation. Dans une optique d'amélioration de la robustesse de notre méthode de segmentation contre les variations de couleur dans les images microscopiques, nous avons étudié deux approches de normalisation des couleurs basées sur des réseaux adverses génératifs pour corriger les variations de couleur entre les images. Les résultats de l'évaluation sont prometteurs et montrent la supériorité de ces méthodes sur les méthodes conventionnelles.
Fichier principal
Vignette du fichier
119531_WU_2022_archivage.pdf (50.03 Mo) Télécharger le fichier
Origine : Version validée par le jury (STAR)

Dates et versions

tel-04354820 , version 1 (20-12-2023)

Identifiants

  • HAL Id : tel-04354820 , version 1

Citer

Huaqian Wu. A General framework for Neuron Instance Segmentation based on Deep Learning. Computer Vision and Pattern Recognition [cs.CV]. Université Paris-Saclay, 2022. English. ⟨NNT : 2022UPAST174⟩. ⟨tel-04354820⟩
46 Consultations
11 Téléchargements

Partager

Gmail Facebook X LinkedIn More