Les opérateurs mobiles sont continuellement tenus d’offrir une meilleure connectivité et une plus grande rapidité à leurs clients. Des capacités améliorées sont exigées des réseaux mobiles tout en devant gérer une nouvelle variété de services. La 5G apporte une vaste gamme de nouveautés pour améliorer la qualité et les services offerts par les opérateurs. Ces changements contiennent, de manière non-exhaustive, de nouvelles technologies pour les antennes, l’apparition de la planification multi-utilisateur, de nouvelles architectures mais aussi l’inclusion de plus d’intelligence artificielle dans la prise de décision. Les changements amenés par la 5G sont accompagnés d’une complexité accrue des réseaux d’internet mobile. La 5G s’accompagne d’une grande variété de nouveaux paramètres à ajuster de manière optimisée. Les exigences envers les opérateurs sont de plus en plus élevées alors que la gestion des réseaux se complexifie. Le nombre de paramètres à régler était déjà très élevé en 4G. Afin optimiser les réseaux 4G et de pouvoir offrir la meilleure qualité d’expérience possible aux utilisateurs, les réseaux auto-organisants, self-organizing network (SON) en anglais avait alors été introduits. Un réseau auto-organisants a pour but l’auto-configuration, l’auto-optimisation et l’auto-réparation. Cependant, la 5G demande au SON de s’adapter et d’évoluer avec les réseaux. Par exemple, le développement du M-MIMO et de la focalisation de faisceaux présentent la possibilité de focaliser le signal sur les utilisateurs afin d’améliorer le signal reçus par les utilisateurs. Cependant, cela s’accompagne de nouvelles difficultés et d’une nouvelle complexité. Dans cette thèse, nous nous concentrons sur les mécanismes d’auto-optimisation dans un ordonnanceur multi-utilisateurs (MU-scheduler) dans un déploiement de mimo massif (M-MIMO). Dans un premier temps, nous prenons en considération un réseau hétérogène. La densification d’un réseau par l’ajout de small cells est un moyen d’augmenter rapidement la capacité d’un réseau. L’utilisation du M-MIMO et d’un scheduler multi-utilisateurs rend certaines solutions SON 4G obsolètes et sont un défi intéressant à relever. Dans cette thèse, nous présentons un contrôleur multi-utilisateurs et collaboratif pour une cellule hétérogène 5G avec un déploiement M-MIMO. Ce contrôleur prend en compte l’impact de des émissions d'une cellule macro sur les small cells présentes dans la couverture de la cellule macro. Des simulations nous permettent d’évaluer la performance de notre solution. Les interférences entre cellules M-MIMO voisins sont également une problématique importante des réseaux 5G qu’il nous faut adresser. Dans ce travail, nous abordons cette problématique de trois manière différentes. Nous présentons une solution heuristique qui présente avec sa faible complexité une solution réactive pour gérer des cellules voisines. La thèse propose également une solution basée sur l’emploi de bandits à bras multiples (MAB en anglais). Cette solution permet d’améliorer la gestion des interférences, par rapport notamment à l’heuristique précédente, entre cellules voisines dans un réseau 5G avec un déploiement M-MIMO. Enfin, une troisième méthode est étudiée. Cette approche est basée sur l’exploitation de données géolocalisées et permet de profiter d’une granularité plus fine.