Dans cette thèse, nous nous intéressons à des modèles déterministes visant à mieux comprendre les mécanismes biologiques et chimiques à l’origine de l’hétérogénéité phénotypique de populations cellulaires. Cette étude est motivée par des travaux d’oncologie montrant que l’hétérogénéité au sein des populations de cellules cancéreuses est un facteur jouant un rôle clé dans la croissance et le développement des métastases. La première partie de notre travail est consacrée à l’étude de systèmes EDO (Equations Différentielles Ordinaires) modélisant les interactions entre différentes molécules au sein du cytoplasme d’une cellule. Ces systèmes, appelés Réseaux de Régulation Génique, sont très utilisés dans le domaine de la biologie des systèmes et visent à modéliser les mécanismes à l’origine de la plasticité cellulaire, autrement dit de l’évolution d’un trait phénotypique au cours du temps. Comprendre le comportement asymptotique, et plus précisément le nombre et le type des attracteurs d’un système permet d’en évaluer la pertinence en le confrontant aux observations biologiques. Nous étudions ici des cas particuliers de ces modèles appelés « Boucles de rétroaction cycliques », et déterminons, pour un large éventail de paramètres, le nombre exact de points d’équilibre stables, ainsi que l’existence éventuelle d’orbites. En partant de ces EDO, nous construisons un modèle EDP (Equation aux dérivées partielles) structuré en phénotype modélisant le comportement d’une population de cellules au cours du temps. L’équation considérée comporte un terme d’advection, modélisant la plasticité cellulaire, et un terme de sélection, modélisant la croissance et la compétition entre les différentes cellules. Nous prouvons que cette équation admet deux régimes de convergence, qui dépendent des paramètres des termes d’advection et de sélection : la convergence vers une masse de Dirac (nous parlons alors de phénomène de concentration), ou la convergence vers une fonction régulière. Biologiquement, ces deux régimes correspondent respectivement à la sélection d’un unique trait phénotypique, et à la préservation d’un ensemble continu de traits au cours du temps. Ce second scénario, qui correspond au maintien d’une population hétérogène, est possible grâce à l’action conjointe des phénomènes d’advection et de sélection ; en effet, des études antérieures prouvent que, en considérant seulement l’un de ces deux termes, la solution converge nécessairement vers une somme de masses de Dirac. Nous proposons ensuite un modèle plus complet prenant en compte, en surcroît de l’advection et de la sélection, l’instabilité phénotypique, par le biais d’un terme intégral. Afin d’approcher les solutions de ce modèle, nous développons un schéma numérique de la famille des méthodes particulaires. Ce type de schéma, qui repose sur la résolution d’EDO et un processus de régularisation, a pour avantage d’être facilement adaptable en cas de modification du modèle. Nous prouvons la convergence du schéma, et évaluons son ordre de convergence, notamment dans le cas où l’advection est non locale. Nous nous intéressons également à son comportement en temps long, en exhibant des conditions sous lesquelles le schéma préserve le comportement asymptotique de la solution, et des exemples où il ne le préserve pas. L’équation et le schéma sont enfin utilisés dans le cadre d’une collaboration avec des biologistes des systèmes de l’Institut des Sciences de Bangalore : en se focalisant sur un phénomène précis, la plasticité épithélio-mésenchymateuse, pour laquelle différentes EDO ont déjà été développées, nous proposons une EDP structurée en phénotype pour une population de cellules. Nous montrons que ce modèle préserve plusieurs des propriétés clés des modèles EDO, et évaluons l’effet des différents paramètres sur la population, et en particulier la manière dont ils influencent son hétérogénéité.