Cette thèse est divisée en deux parties, la première étant principalement basée sur des simulations numériques en génie côtier alors que la deuxième a une saveur plus théorique. Dans la première partie, des techniques d'optimisation de formes, portant sur la conception d'ouvrages de défense en mer, sont utilisées dans des problèmes du génie côtier. La protection d'une zone portuaire, dont le modèle sollicite des équations simplifiés pour la propagation de la houle, est d'abord étudiée. Ensuite, en collaboration avec le bureau d'étude Bas-Rhône Languedoc ingénierie, nous traitons un problème de protection de plage sableuse concret (Lido de Sète, Mer Méditerrannée, France). Le modèle utilisé tient compte des phénomènes de réfraction et diffraction de la houle proche des ouvrages. Dans la seconde partie, un modèle non local d'évolution de dunes immergées, initialement introduit par A.C. Fowler d'après la propagation de vagues en régime fluvial, a été étudié. L'existence et l'unicité d'une solution régulière pour la forme du fond sont obtenues à partir d'une dune initiale dans L². Notons que cette loi de conservation enfreint le principe du maximum.