Les sources d'ions à la résonance cyclotronique électronique (ECR) sont utilisées pour produire des ions hautement chargés. Les ions sont produits dans un plasma magnétisé entretenu par l'interaction résonante de la gyrofréquence des électrons avec une onde électromagnétique radiofréquence. Les plasmas ECR présentent des instabilités cinétiques, ce qui limite l'espace des paramètres disponibles pour optimiser les courants d’ions extraits. La thèse est consacrée à l’étude et à la compréhension des mécanismes sous-tendant la formation de ces instabilités cinétiques sur diverses sources d'ions ECR.La thèse est divisée en six chapitres. Les deux premiers traitent de la pertinence du travail dans le contexte de divers domaines scientifiques et des connaissances théoriques de base nécessaires à la compréhension des processus impliqués dans la production du plasma ECR, ainsi que du contexte des instabilités cinétiques. Le troisième chapitre est consacré aux aspects techniques de l'une des sources d'ions utilisées dans les expériences, ainsi qu'à une discussion approfondie des méthodes de diagnostic employées au cours des nombreuses campagnes expérimentales menées.L'un des objectifs de ce travail est d'affiner la compréhension des mécanismes physiques qui déterminent la relation complexe entre les paramètres du champ magnétique de l'ECRIS et la transition du régime de fonctionnement stable au régime instable. Ainsi, un outil numériquea été développé pour calculer rapidement la structure tridimensionnelle du champ magnétique dans une source ECR et extraire les paramètres de champ magnétique pertinents. A savoir, la surface de champ iso-magnétique fermée où la fréquence cyclotronique de l'électron égale la fréquence de l’onde électromagnétique injectée. Le chapitre quatre détaille le développement de cet outil de calcul. En outre, ce chapitre contient une description du code de traitement du signal utilisé pour effectuer une analyse statistique sur une grande quantité de données collectées pendant l'une des campagnes expérimentales ; campagne consacrée à l'étude temporelle des émissions électromagnétiques induites par l'instabilité.Le cinquième chapitre résume l’ensemble des campagnes expérimentales et les principaux résultats obtenus. La plupart des caractéristiques générales du champ magnétique de l'ECRIS ont été déterminées à l'aide de calculs de champ magnétique dans cinq sources d'ions différentes. Une relation entre l'énergie des électrons chauds et le gradient de champ magnétique moyen parallèle aux lignes de champ magnétique sur la surface de résonance a été établie grâce à des expériences menées dans la source d'ions supraconductrice SECRAL-II à l'IMP-CAS, en Chine. L'effet de la configuration du champ magnétique sur la gestion de la population d'électrons chauds et, par conséquent, sur le contrôle de l'instabilité, a été établi par des études menées au GANIL, en France, à l'aide de la source d'ions GTS. Une autre campagne utilisant l'ECR JYFL 14 GHz en Finlande a établi une relation entre le rayonnement bremsstrahlung émis par le plasma et la distribution d'énergie des électrons s’échappant de la source, ainsi que l'effet des instabilités cinétiques sur la forme de la distribution d'énergie des électrons perdus. Une autre campagne expérimentale sur la source d'ions ECR 14 GHz de JYFL a révélé une relation temporelle entre l'émission pulsée d'ondes électromagnétiques pendant l'instabilité et la force du signal émis en effectuant une analyse statistique complète des données collectées. L'expérience a également révélé un regroupement (dans le temps) des émissions électromagnétiques dues à l'instabilité, phénomène précédemment observées dans les plasmas spatiaux et magnétosphériques. Le dernier chapitre présente une discussion d’ensemble de toutes les expériences réalisées ainsi que la portée des recherches futures dans ce domaine. Les publications associées à cette recherche sont proposées en annexe.