Cette thèse décrit comment les ondes électromagnétiques se propagent dans les plasmas magnétisés, lorsque les fréquences sollicitées sont proches de la fréquence électron cyclotron. Elle porte sur l’analyse mathématique des variétés caractéristiques qui sont associées à des systèmes de type Vlasov-Maxwell relativiste avec paramètres rapides.La première partie s’intéresse aux plasmas froids des magnétosphères planétaires. On explique comment obtenir les relations de dispersion dans le cas d’un dipôle magnétique. Cela conduit à l’étude détaillée de certaines variétés algébriques de l’espace cotangent : les cônes et les sphères dits ordinaires et extraordinaires. La description géométrique de ces cônes et de ces sphères donne accès à une classification complète des ondes électromagnétiques susceptibles de se propager. Diverses applications sont proposées, concernant l’équation eikonale et l’absence de propagation en mode parallèle, ou encore concernant la structure des ondes dites en mode siffleur.La seconde partie porte sur la modélisation des plasmas chauds, typiquement ceux qui sont mis en jeu dans les tokamaks. On prouve dans un contexte réaliste que la propagation des ondes électromagnétiques s’effectue au travers d’un tenseur dielectrique. Ce tenseur est obtenu via une analyse fine des résonances cinétiques qui sont issues des interactions entre les particules (Vlasov) et les ondes (Maxwell). Il s’exprime comme une somme infinie d’intégrales singulières, faisant intervenir l’opérateur de Hilbert. Le sens mathématique de la formule donnant accès à ce tenseur est rigoureusement justifié.