Dans cette thèse, à l'interface entre la physique théorique, en particulier la théorie des cordes, et les mathématiques, en particulier la géométrie énumérative, nous étudions le comptage d'états BPS sur les théories quantiques des champs 4D N=2 obtenues en compactifiant une théorie des cordes de type II sur une variété de Calabi-Yau tridimensionelle X. Ce comptage est exprimé mathématiquement par les invariants de Donaldson-Thomas, qui donnent un comptage virtuel de faisceaux cohérents stables sur X. Nous présentons de nouveaux résultats obtenus dans ce domaine, en commençant ar une formule de localisation torique, et son application au comptage d'états BPS dans le cas des singularités toriques. Nous continuons en présentant l'étude d'une formule inspirée par la physique des trous noirs supersymmétriques, appelée 'formule d'arbres de flots', que nous appliquons dans le cas des carquois et de la géométrie du plan projectif local, dans le cadre d'une collaboration avec Pierrick Bousseau, Bruno le Floch et Boris Pioline.