Cette thèse est consacrée à l'optimisation de la topologie et de la forme de systèmesmultiphysiques motivés par des applications de l'industrie aéronautique. Nouscalculons les dérivées de forme de fonctions de coût arbitraires pour un modèlefluide, thermique et mécanique faiblement couplé. Nous développons ensuite unalgorithme de type gradient adapté à la résolution de problèmes d'optimisation deformes sous contraintes qui ne requiert par de réglage de paramètres nonphysiques. Nous introduisons ensuite une méthode variationnelle qui permet decalculer des intégrales le long de rayons sur un maillage par la résolution d'unproblème variationnel qui ne requiert pas la détermination explicite de ces lignessur la discrétisation spatiale. Cette méthode nous a ainsi permis d'imposer unecontrainte de non-mélange de phases pour une application à l'optimisationd'échangeurs de chaleur bi-tubes. Tous ces ingrédients ont été employés pour traiterune variété de cas tests d'optimisation de formes pour des systèmes multi-physiques2-d ou 3-d. Nous avons considéré des problèmes à une seule, deux ou bien troisphysiques couplées en 2-d, et des problèmes de tailles relativement élevées en 3-dpour la mécanique, la conduction thermique, l'optimisation de profils aérodynamiques,et de la forme de systèmes en interaction fluide-structure. Un dernier chapitred'ouverture est consacré à l'étude de modèles homogénéisées d'ordres élevés pour lessystèmes elliptiques perforés. Ces équations d'ordres élevés englobent les troisrégimes homogénéisés classiques associés à divers rapports d'échelles pour la tailledes obstacles. Elles pourraient permettre, dans de futurs travaux, de développer denouvelles méthodes d'optimisation pour les systèmes fluides caractérisés par desmotifs multi-échelles, ainsi que couramment rencontré dans la conception deséchangeurs thermiques industriels.