Cette thèse se situe à l'interface entre la physique théorique, en particulier la théorie des cordes et les théories des champs supersymétriques, et les mathématiques, en particulier la géométrie algébrique et la théorie des représentations. On étudie ici le comptage d'états BPS, conservant une supersymétrie, dans des théories supersymétriques N=2 en quatre dimensions, obtenues en compactifiant la théorie des cordes de type IIA sur une variété de Calabi-Yau X de dimension complexe 3. Dans la limite de fort couplage, ces états BPS correspondent à des trous noirs supersymétriques, et leur comptage permet de retrouver l'origine microscopique de l'entropie de Bekenstein-Hawking des trous noirs. Mathématiquement, ces états BPS sont décrits comme des objets stables pour une condition de stabilité de Bridgeland sur la catégorie dérivée des faisceaux cohérents sur X. Pour certains CY3 locaux, ces états peuvent être aussi décrits comme des représentations de carquois avec potentiel. Le comptage de ces états est donné mathématiquement par les invariants de Donaldson-Thomas des espaces de modules de ces objets stables, une forme de cohomologie virtuelle pour ces espaces très singuliers. Différentes méthodes ont été étudiées pour compter les états BPS dans diverses situations. Une formule de localisation torique a été développée, et a été appliquée aux cadre des singularités CY3 toriques. Une autre formule, la formule de flots d'attracteur, a été appliquée au cas du plan projectif local dans un travail joint avec Pierrick Bousseau, Bruno le Floch et Boris Pioline, et a été étudiée dans le cas de représentations abéliennes de carquois avec potentiel dans un travail joint avec Boris Pioline.