Nous avons utilisé diverses techniques de la science complexe: l'analyse de réseau, la RMT, la théorie de la prétopologie et la TDA, pour étudier les caractéristiques et le mécanisme des comportements collectifs des marchés boursiers sous différents aspects.Nous avons constaté que le MST du réseau de la corrélation d'un marché boursier peut représenté la structure du réseau et le réseau de seuils est plus approprié pour étudier la résilience du marché. Etant donné que la plus grande valeur propre de la matrice de l'échantillon et son vecteur propre associé peuvent donner des informations sur les “vraies” corrélations des stocks si elle est très supérieure à la limite supérieure de la distribution Marčenko - Pastur, nous pouvons utiliser le premier PC dont les chargements sont les composantes du vecteur propre pour étudier le comportement collectif du marché.Avec la dynamique temporelle du réseau MST, nous confirmons que l'état instable du marché peut se refléter sur la structure en étoile du réseau ou sur la disparition de la propriété sans échelle du réseau. Cet état peut être quantifié par la baisse remarquable de différentes mesures telles que la longueur de chemin le plus court, le taux de survie, le même rapport sectoriel et le coefficient allométrique. De plus, en tant que réseau sans échelle, nous admettons également que le réseau à seuil est robuste en cas de défaillance aléatoire mais très fragile en cas d'attaques intentionnelles.Ensuite, nous étudions la plus grande valeur propre de la matrice empirique de corrélation et son vecteur propre associé. Nous suggérons de composer le portefeuille le plus corrélé à partir du premier PC. Le premier PC peut être considéré comme le facteur de marché et est fortement corrélé avec l'indice correspondant. Nous proposons une formule simple pour approximer ses chargements basé sur la relation asymptotiquement linéaire des chargements avec les coefficients de corrélation moyens des actions.Comme le comportement collectif d'un marché peut être causé par une défaillance en cascade, nous proposons une méthode pour étudier l'évolution de la défaillance. En supposant que le nombre de stocks défaillants augmente l'impact de ces stocks sur un autre stock et déclenche sa défaillance si l'impact est suffisamment important, nous construisons un espace prétopologique dans lequel la pseudo-fermeture modélise la contagion. En revanche, l'ouverture de la rémunération du groupe permet de prédire les stocks non impactés par les stocks défaillants. Nous avons constaté que notre cadre prétopologique est plus efficace que l'approach utilisé le réseau MST et le réseau à seuil. L'efficacité vient de la prise en compte de toutes les corrélations des actions, illustrant évidemment la contagion par étapes individuelles et notant non seulement la relation des actions mais aussi la relation entre une action et un groupe.Enfin, nous proposons une méthode pour détecter les anomalies. Étant donné que le facteur de marché représenté par le premier PC est fortement corrélé avec l'indice, le dernière est appropriée pour étudier le comportement collectif du marché. Nous établissons une mesure pour reconnaître en quoi la topology des séries temporelles de l'indice obtenues au cours d'une certaine période sont différentes de celles des séries temporelles précédentes. Cette mesure est testée pour l'indice S&P 500. Nous avons constaté que la mesure de l'écart aide vraiment à détecter les “crashes” du marché Américain lorsqu'il est supérieur à 60%. Parce qu'elle prend souvent une si grande valeur dès le début des crises financières, cette valeur peut être un avertissement de crises au lieu de nombreuses statistiques économiques.De ce fait, cette thèse permet d'acquérir une connaissance approfondie de l'évolution des marchés boursiers, des structures géométriques et des signes de stabilité qui sont essentielles pour controle le risque systémique.