La modélisation mathématique des écosystèmes permet une étude des questions liées à la diversité des espèces et à la complexité de leurs interactions. En biologie et en écologie mathématiques, l'usage de grands systèmes de Lotka-Volterra est courant dans la modélisation de la dynamique des écosystèmes faisant intervenir des espèces qui interagissent entre elles.Lorsque les écosystèmes, réseaux trophiques ou microbiomes, impliquent de nombreuses espèces, il peut être difficile d'observer ou de mesurer les interactions entre ces espèces et pertinent de considérer les interactions comme aléatoires. Depuis les années 70, certains écologues ont ainsi fait appel aux résultats de la théorie des matrices aléatoires (RMT) dans l'étude des réseaux trophiques. La matrice des interactions est alors une matrice aléatoire.Dans une première partie de cette thèse, se posera la question de l'existence d'un équilibre faisable, c'est-à-dire d'une solution strictement positive du système de Lotka-Volterra, ce qui correspond au scénario où aucune espèce ne disparaı̂t au cours de la dynamique. Par ailleurs, certains modèles en écologie font appel à des matrices creuses, contenant de nombreux zéros ; chaque espèce interagissant avec un petit nombre d'autres espèces. En RMT, l'étude des matrices creuses est assez récente et c'est dans ce contexte que se posent les questions de la faisabilité et de la stabilité de l'équilibre. L'existence asymptotique, lorsque le nombre d'espèces tend vers l'infini, d'un seuil de faisabilité est démontrée pour deux modèles : lorsque la matrice des interactions a une structure par blocs et lorsque le paramètre de sparsité est proportionnel au nombre d'espèces.La deuxième partie portera sur une toute autre question, celle de la proportion d'espèces survivantes et la mesure empirique du vecteur solution du système de Lotka-Volterra. En particulier, les résultats présentés sont obtenus dans le cas de matrices d'interactions symétriques, appartenant à l'Ensemble Gaussien Orthogonal, ou dans le cas de matrices de Wishart, utilisées pour mesurer notamment la « proximité » des espèces en fonction de leurs traits. Ce chapitre nous permettra de faire le lien entre l'équilibre du système de Lotka-Volterra et la solution du Linear Complementary Problem ainsi que d'appliquer l'algorithme de l'Approximate Message Passing.L'objectif de la troisième partie est de présenter divers modèles de matrices aléatoires structurées qui apparaissent dans la littérature en écologie et en biomathématiques. L'accent sera mis sur leur utilisation en écologie théorique tout en faisant le lien avec des résultats mathématiques et des questions ouvertes.Enfin, la dernière partie sera consacrée à l'étude d'un théorème central limite, s'intéressant au comportement asymptotique de la solution d'un système algébrique d'équations couplés dont les coefficients sont aléatoires. La démonstration s'appuiera sur des outils d'analyse combinatoire et de théorie des graphes.