Cette thèse porte sur l'optimisation de formes de structures en vibration exploitant les propriétés amortissantes des polymères. Un sujet aux enjeux importants puisque ces matériaux sont au cœur d'une grande partie des applications industrielles actuelles. L'objectif principal de ce travail est d'augmenter significativement les capacités d'amortissement de structures viscoélastiques homogènes en vibration libre, en s'appuyant sur des techniques de recherche du design optimal.L'optimisation paramétrique de l'épaisseur d'une poutre et d'une plaque, satisfaisant respectivement les hypothèses d'Euler-Bernoulli et de Kirchhoff-Love, est tout d'abord considérée. Cette étude est suivie de l'optimisation couplée de l'épaisseur et de la forme d'une plaque, satisfaisant les hypothèses de Kirchhoff-Love ou de Reissner-Mindlin, par la méthode de variation de frontière d'Hadamard.Enfin, une généralisation de ces problèmes est proposée à travers l'optimisation topologique de structures viscoélastiques 3D par la méthode level-set et appliquée au cas de la semelle de chaussure de course dans un cadre industriel. Le matériau viscoélastique linéaire isotrope est modélisé par un modèle classique de Maxwell généralisé, représentant le comportement de polymères réalistes de façon satisfaisante. Le gradient des fonctions objectifs est établi par une approche adjointe. L'optimisation est réalisée par un algorithme de descente de gradient et les modèles mécaniques sont évalués par la méthode des éléments finis.Les designs optimisés montrent un gain de performance significatif. Les résultats numériques indiquent également que les designs optimaux, ainsi que leur propriétés d'amortissement, dépendent fortement des paramètres matériaux.