Les récentes observations spatialement résolues de disques protoplanétaires ont révélé la présence de structures à la morphologie complexe, indiquant la présence probable de protoplanètes à l’intérieur. Comment les grains contenus dans le disque ont-ils pu former ces structures ? Comment vont-elles évoluer ? Pour répondre à ces questions, il faut comprendre comment les grains grossissent dans le disque. Or, la résolution numérique de l’équation de coagulation par les méthodes traditionnelles requiert un échantillonnage prohibitif, rendant impossible son intégration dans un code hydrodynamique tri-dimensionnel.Le but de cette thèse est le développement d’un algorithme permettant de résoudre l'équation de coagulation en respectant les contraintes guidées par l’astrophysique : conservation rigoureuse de la masse en gardant une précision inférieure aux erreurs hydrodynamique sur un spectre de masse pertinent pour les observations. L’échantillonnage doit-être minimal pour permettre un couplage avec un code hydrodynamique. Pour ce faire, l’équation de coagulation est résolue par un schéma numérique original reposant sur la méthode de Galerkine discontinue et une intégration d’ordre élevé. L’efficacité de la méthode est démontrée sur les solutions connues de l’équation et transférée au contexte de la formation des planètes.Des travaux réalisés en parallèle de cette étude seront présentés. En premier lieu, une analyse d'observations de planètes extra-solaires réalisées avec l'instrument SPHERE/VLT. En second lieu, la résolution numérique d’équations stochastiques pour comprendre la sédimentation des grains dans les disques turbulents.