Sparse approximation algorithms inspired by Orthogonal Least Squares for inverse problems
Algorithmes d'approximation parcimonieuse inspirés d'Orthogonal Least Squares pour les problèmes inverses
Résumé
This manuscript is a synthesis of my research activity at CRAN between 2005 and 2013. My research projects deal with inverse problems in signal and image processing, sparse approximation, hyperspectral image analysis, and 3D image reconstruction. I pay specific attention to the development, analysis and utilization of sparse approximation algorithms for inverse problems characterized by ill-conditioned dictionaries. In the first chapter, heuristic algorithms are proposed to minimize mixed L2-L0 cost functions. These are ''bidirectional'' greedy algorithms defined as extensions of Orthogonal Least Squares (OLS). Indeed, empirical comparisons show that OLS and its derived versions behave nicely when the dictionary is an ill-conditioned matrix. The second chapter is an applicative part in atomic force microscopy, where the OLS based algorithms are utilized with a specific dictionary in order to perform automatic segmentation of signals. This segmentation leads to the reconstruction of a set of 2D images representing electrostatic and bio-mechanical properties at the nanoscale. The third chapter is a theoretical study aiming to analyze the greedy algorithms OMP (Orthogonal Matching Pursuit) and OLS. A first k-step recovery analysis or OLS is provided. Then, the worst case exact recovery conditions are being thoroughly evaluated for both OMP and OLS when a number of iterations have already been performed. The comparisons validate the better behavior of OLS for problems involving ill-conditioned dictionaries. The fourth chapter sketches a few perspectives, both methodological and applicative, regarding sparse analysis for inverse problems.
Ce manuscrit synthétise mon activité de recherche au CRAN entre 2005 et 2013. Les projets menés s'inscrivent dans les domaines des problèmes inverses en traitement du signal et des images, de l'approximation parcimonieuse, de l'analyse d'images hyperspectrales et de la reconstruction d'images 3D. Je détaille plus particulièrement les travaux concernant la conception, l'analyse et l'utilisation d'algorithmes d'approximation parcimonieuse pour des problèmes inverses caractérisés par un dictionnaire mal conditionné. Dans un premier chapitre, je présente les algorithmes heuristiques conçus pour minimiser des critères mixtes L2-L0. Ce sont des algorithmes gloutons << bidirectionnels >> définis en tant qu'extension de l'algorithme Orthogonal Least Squares (OLS). Leur développement est motivé par le bon comportement empirique d'OLS et de ses versions dérivées lorsque le dictionnaire est une matrice mal conditionnée. Le deuxième chapitre est une partie applicative en microscopie de force atomique, où les algorithmes du premier chapitre sont utilisés avec un dictionnaire particulier dans le but de segmenter automatiquement des signaux. Cette segmentation permet finalement de fournir une cartographie 2D de différents paramètres électrostatiques et bio-mécaniques. Le troisième chapitre est une partie théorique visant à analyser les algorithmes gloutons OMP (Orthogonal Matching Pursuit) et OLS. Une première analyse de reconstruction exacte par OLS en k itérations est proposée. De plus, une comparaison poussée des conditions de reconstruction exacte lorsqu'un certain nombre d'itérations ont déjà été effectuées fournit un éclairage sur le meilleur comportement d'OLS (par rapport à OMP) pour les problèmes mal conditionnés. Dans un quatrième chapitre, je dresse quelques perspectives méthodologiques et appliquées dans le domaine de l'analyse parcimonieuse en lien avec les chapitres précédents.
Loading...