Probabilistic segmentation modelling and deep learning-based lung cancer screening - Archive ouverte HAL Access content directly
Theses Year : 2021

Probabilistic segmentation modelling and deep learning-based lung cancer screening

Modèles probabilistes pour la segmentation d’images et dépistage du cancer du poumon par apprentissage profond

(1)
1

Abstract

This thesis is structured around two research themes dedicated to probabilistic image segmentation and lung cancer screening. First, we focus on the problem of controlling the spatial regularity of segmentations. Enforcing a certain extent of regularization is important in order to guarantee the spatial consistency of the segmented structures and to control the smoothness of the segmentation boundaries. We investigate several probability distributions allowing spatial regularization to be enforced a priori in Bayesian segmentation models. Theses priors are incorporated into a common variational inference framework and compared with respect to several criteria, including their regularization strength, the complexity of their inference, their local adaptivity or their impact on uncertainty quantification. In a second step, we address the challenge of controlling the quality of image segmentations in large databases when no reference segmentation is available. We propose a novel approach for unsupervised quality control based on a probabilistic model built on simple smoothness and intensity assumptions. Our method allows suspicious cases to be extracted from segmentation datasets and produces interpretable outputs enabling potential errors to be localized in the image. Third, we develop a new approach for the fusion of continuous segmentation maps. By allowing a consensus between several experts or algorithms to be estimated, our method represents a new solution to tackle the problem of inter-rater variability. Our method, based on heavy-tailed distributions, allows for local variations in the raters' performances thus leading to a more robust consensus estimate. In addition, the concept of mixture of consensuses is introduced and its application to the clustering of raters is investigated. The second focus of this thesis is dedicated to lung cancer screening from computed tomography images. We propose a fully automated pipeline based on deep learning. We provide an extensive analysis of the results of the pipeline on several datasets. In particular, we study the impact of training with subjective radiological labels, i.e. without any histopathologic ground truth, on the performances when applying the pipeline on real-life screening data.
Cette thèse s'articule autour de deux axes de recherche consacrés à la modélisation probabiliste de la segmentation d'images et au dépistage du cancer du poumon. Dans un premier temps, nous nous intéressons au problème du contrôle de la régularité spatiale des segmentations d'images. Imposer un certain niveau de régularisation est important afin de garantir l'homogénéité des structures segmentées et de contrôler le lissage de leurs contours. Nous étudions différentes distributions de probabilité permettant d'imposer une régularisation spatiale a priori dans des modèles de segmentation probabilistes. Ces distributions sont regroupées au sein d'un même schéma d'optimisation basé sur l'inférence variationnelle, et sont comparées entre elles par rapport à plusieurs critères dont leur capacité à régulariser, la complexité de leur inférence, leur adaptabilité locale ou encore leur impact sur la quantification de l'incertitude. Dans un deuxième temps, nous abordons le défi que constitue le contrôle de la qualité des segmentations au sein de grandes bases de données lorsqu'aucune segmentation de référence n'est disponible. Nous proposons une nouvelle approche pour le contrôle non supervisé reposant sur un modèle probabiliste construit sur des hypothèses simples d'intensité et de régularité. Notre méthode permet d'identifier des cas suspects et génère des sorties interprétables permettant de localiser dans l'image les erreurs potentielles. Dans un troisième temps, nous développons une nouvelle approche pour la fusion de cartes de segmentation continues. En permettant d'estimer un consensus entre plusieurs experts ou algorithmes, notre méthode représente un nouveau levier face au problème de la variabilité pouvant être observée entre annotateurs. Notre approche, basée sur des distributions de probabilité à queue lourde, tient compte des variations locales des performances des annotateurs, ce qui permet d'obtenir une estimation plus robuste du consensus. De plus, le concept de consensus multiples est introduit et son application au regroupement des évaluateurs est étudiée. Le second axe de cette thèse est dédié au dépistage du cancer du poumon à partir d'images tomodensitométriques. Nous proposons une chaîne de traitement entièrement automatisée utilisant l'apprentissage profond. Une analyse complète des résultats de la chaîne de traitement est réalisée sur plusieurs ensembles de données. En particulier, nous étudions l'impact sur les performances d'un entraînement réalisé uniquement avec des annotations radiologiques, c'est-à-dire sans vérité histopathologique, lors de l'application de la chaîne sur des données réalistes de dépistage.
Fichier principal
Vignette du fichier
2021COAZ4054.pdf (24.38 Mo) Télécharger le fichier
Origin : Version validated by the jury (STAR)

Dates and versions

tel-03406789 , version 1 (28-10-2021)

Identifiers

  • HAL Id : tel-03406789 , version 1

Cite

Benoît Audelan. Probabilistic segmentation modelling and deep learning-based lung cancer screening. Image Processing [eess.IV]. Université Côte d'Azur, 2021. English. ⟨NNT : 2021COAZ4054⟩. ⟨tel-03406789⟩
206 View
42 Download

Share

Gmail Facebook Twitter LinkedIn More