Les techniques liées au vol en formation et aux opérations de proximité de satellites autonomes font partie des technologies opérationnelles spatiales les plus marquantes et les plus ambitieuses de ces dernières années. En particulier, cela nécessite la complète maitrise des phases de rendez-vous proche et de survol par un satellite actif avec un satellite, une station ou un débris passif. Le développement de systèmes GNC (Guidage Navigation Contrôle) associés performants et sûrs repose sur la connaissance d'un modèle dynamique réalisant un bon compromis entre faible complexité et prise en compte suffisante des principales caractéristiques dynamiques et cinématiques de ce type de systèmes. La première partie de cette thèse est consacrée au développement d'une modélisation unifiée de la dynamique relative couplée entre un satellite coopératif chasseur et un satellite cible non coopérative. En effet, lorsque deux satellites sont proches l'un de l'autre, ils ne peuvent plus être traités comme des masses ponctuelles, car leur forme et leur taille affectent le mouvement relatif entre les points de masse décentralisés, conduisant à un couplage des mouvements de translation et de rotation. Ce développement est abordé de manière progressive: le mouvement de translation relatif non linéaire est décrit sous hypothèses képlériennes dans le repère orbital de la cible ainsi que le modèle linéarisé associé. Ensuite, le modèle non linéaire d'attitude relative est présenté au moyen des paramètres d'Euler-Rodrigues. Enfin, le formalisme des quaternions duaux est utilisé afin d'obtenir le modèle relatif couplé en translation et en attitude. La phase de modélisation du mouvement relatif linéaire de translation a ainsi permis de mettre en évidence certaines transformations de coordonnées conduisant à une caractérisation intéressante des trajectoires périodiques du chasseur et ainsi de proposer un premier type de loi de contrôle de guidage pour la phase d'approche et de survol. Dans l'ensemble de notre travail, nous considérons un chasseur équipé de propulseurs chimiques et l'hypothèse classique des poussées impulsionnelles. Ce type de systèmes dynamiques conciliant dynamique continue et contrôle impulsionnel se définit naturellement comme une classe particulière de systèmes dynamiques hybrides. Plusieurs lois de contrôle hybrides sont alors proposées afin de stabiliser le chasseur sur une trajectoire de référence périodique proche de la cible. Les propriétés de stabilité et de convergence de ces différentes lois sont analysées et de nombreuses simulations numériques montrent les forces et les faiblesses de chaque contrôleur en termes d'indices de performance comme le temps de convergence, la consommation ainsi que des contraintes de sécurité. Dans un second temps, des contraintes opérationnelles supplémentaires (contraintes de visibilité par exemple) sont prises en considération en imposant une direction d'approche rectiligne (glideslope) au chasseur. Cette trajectoire impose au satellite chasseur de suivre une droite dans n'importe quelle direction du repère local reliant l'emplacement courant du chasseur à sa destination finale. Sous l'hypothèse de propulsion impulsionnelle, les résultats existant dans la littérature pour ce type d'approche ont été généralisés aux orbites elliptiques en identifiant une nouvelle formulation du problème comprenant des degrés de liberté utiles qui permettent de minimiser la consommation de carburant tout en contrôlant l'excursion de la trajectoire libre en dehors de la droite de glideslope en la confinant dans un couloir d'approche défini par l'utilisateur. La synthèse des lois de guidage ainsi obtenues repose sur la résolution de problèmes d'optimisation SDP dans le cas général ou linéaire pour les cas plus simples d'approche standards du type V-bar ou R-bar.