Leveraging blur information in plenoptic cameras : application to calibration and metric depth estimation
Exploitation de l'information de flou dans les caméras plénoptiques : application à l'étalonnage et à l'estimation métrique de profondeur
Résumé
This thesis investigates the use of a vision sens or called a plenoptic camera for computer vision in robotics applications. To achieve this goal we place ourselves upstream of applications, and focus on its modelization to enable robust depthestimation. Plenoptic or light-field cameras are passive imaging systems able to capture bothspatial and angular information about a scene in a single exposure. These systems are usually built upon a micro-lenses array (MLA) placed between a main lens and asensor. Their design enables depth estimation from a single acquisition.The key contributions of this work lie in answering the questions “How can welink world space information to the image space information? ” and more importantly,“How can we link image space information to world space information? ”. We addressthe first problem through the prism of calibration, by proposing a new camera modeland a methodology to retrieve the intrinsic parameters of this model. We leverage blur information where it was previously considered as a drawback by explicitly modeling the defocus blur. We address the second one as the problematic of depthestimation, by proposing a metric depth estimation framework working directly withraw plenoptic images. It takes into account both correspondence and defocus cues.Our model generalizes to various configurations, including the multi-focus plenopticcamera (both in Galilean and Keplerian configuration), as well as to the single-focusand unfocused plenoptic camera. Our method gives accurate and precise depthestimates (a median relative error ranging from 1:27% to 4:75% of the distance). It outperforms state-of-the-art methods. Having a new complete camera model and enabling robust metric depth estimationfrom raw images only, opens the door to many new applications. It is a first steptowards practical use of plenoptic cameras in computer vision applications.
Cette thèse propose d’étudier l’utilisation d’un capteur de vision appelé caméra plénoptique pour de la vision par ordinateur dans des applications robotiques. Plus précisément, pour atteindre cet objectif, nous nous plaçons en amont du côté applicatif, et nous nous concentrons sur sa modélisation pour permettre une estimation de profondeur robuste. Les caméras plénoptiques ou à champ de lumière sont des systèmes d’imagerie passifs capables de capturer les informations spatiales et angulaires d’une scène en une seule exposition. Ces systèmes sont généralement constitués d’une matrice de micro-lentilles (MLA) placée entre un objectif principal et un capteur. Leur conception permet l’estimation de la profondeur à partir d’une seule acquisition. Les contributions clés de ce travail résident dans la réponse à la question “Comment peut-on relier l’information de l’espace monde à celle de l’espace image?” et surtout, “Comment peut-on relier l’information de l’espace image à celle de l’espace monde?”. Nous abordons la première par le prisme de l’étalonnage, en proposant un nouveau modèle de caméra et une méthodologie pour récupérer les paramètres intrinsèques de ce modèle. Nous exploitons l’information sur le flou de défocalisation là où il était auparavant considéré comme un inconvénient, en le modélisant explicitement. Nous abordons la deuxième problématique comme celle de l’estimation de profondeur, en proposant une méthode métrique d’estimation de profondeur fonctionnant directement avec des images brutes plénoptiques. Elle prend en compte à la fois les indices de correspondance et de défocalisation. Notre modèle se généralise à diverses configurations, y compris la caméra plénoptique multi-focales (en configuration galiléenne et keplérienne), ainsi qu’à la caméra plénoptique monofocale et non focalisée. Avec notre méthode, nous obtenons des estimations de profondeur répétables et exactes (de l’ordre de 1:27% à 4:75% de la distance à l’objet). Elle surpasse les résultats de l’état-de-l’art. Le fait de disposer d’un nouveau modèle complet de caméra et de permettre une estimation métrique robuste de la profondeur à partir d’images brutes uniquement ouvre la voie à de nombreuses nouvelles applications. Il s’agit d’un premier pas vers l’utilisation concrète de caméras plénoptiques dans les applications de vision par ordinateur.
| Origine | Version validée par le jury (STAR) |
|---|