La résolution des systèmes d'imagerie optique a été historiquement limitée par la diffraction et la limite de Rayleigh a longtemps été considérée comme insurmontable. Des techniques de super-résolution ont été développées pour aller au-delà de cette limite, mais elles sont adaptées spécifiquement à chaque contexte et atteindre une résolution sub-Rayleigh demeure très difficile. En examinant les problèmes d'imagerie à travers le prisme de la théorie d'estimation de paramètre, il est possible de comprendre les contraintes intrinsèques aux approches traditionnelles de super-résolution et de déterminer une méthode optimale, basée sur la détection d'intensité dans la base de modes d'Hermite-Gauss. Dans cette thèse, nous avons mis en place cette approche fournie par la métrologie quantique pour estimer la séparation entre deux sources incohérentes et nous avons atteint une sensibilité cinq ordres de grandeur au-delà du critère de Rayleigh. Avec notre dispositif expérimental, basé sur un démultiplexeur en modes spatiaux, nous avons étudié des scènes avec des sources à haut et bas flux de photons. En portant une attention particulière à l'exactitude et à la sensibilité des mesures, nous démontrons que le démultiplexage en modes spatiaux est particulièrement adapté pour effectuer des estimations de séparations sub-Rayleigh. Ce travail ouvre la voie à l'amélioration de la sensibilité des mesures dans des scènes optiques plus complexes se rapprochant de réelles situations d'imagerie.