En étudiant les phénomènes de la propagation d'ondes acoustiques linéaires et non linéaires venant de différents problèmes applicatifs physiques, on s'intéresse en particulier aux bords irréguliers et fractales. On développe les bases mathématiques d'analyse fonctionnelle qui permettent de résoudre des problèmes aux dérivées partielles sur des domaines aux bords irréguliers. Les notions principales requises sont la compacité de l'opérateur de trace sur le bord et la continuité des opérateurs d'extension. On étudie dans ce cadre la régularité maximale des solutions faibles et on définit la notion des domaines Sobolev-admissible, pour représenter la plus large classe des bords et des domaines sur lesquels on pourrait avoir la compacité de l'opérateur de trace et la continuité des opérateurs d'extension, permettant d'avoir les résultats d'existence des solutions faibles ; par exemple, un problème de Poisson avec des conditions mixtes sur le bord. Dans ce cadre générale des bords, en particulier sur des ensembles, on définit l'opérateur Dirichlet-à-Neumann et on précise l'hypothèse de P.-G. de Gennes sur le comportement asymptotique aux temps cours de la vitesse de la propagation de la chaleur entre deux milieux aux coefficients de la diffusion et à la température initiale différente. Ayant considéré différents problèmes de Cauchy pour des modèles d'acoustique non-linéaire (les équations de Kuznetsov, de Westervelt, de KZK et de NPE, qui font parties des modèles de la propagation des ultrasons, dont on a étudié la dérivation et le temps de leur approximation non seulement entre eux, mais également du système de Navier-Stokes/Euler compressible isentropique), on s'intéresse au problème aux limites mixtes pour l'équation de Westervelt, c’est-à-dire, l'équation des ondes non linéaires avec un terme de viscosité, sur les domaines Sobolev-admissibles. On montre comment on peut contrôler la non-linéarité dans le cas d'absence de la régularité H^2. On traite également les questions de Mosco-convergence, pour l'équation de Westervelt en particulier, permettant d'approximer les solutions sur les domaines à bord fractals, plus généralement d-ensembles, avec des solutions sur les domaines Lipschitziens. La philosophie d'approximation et de la convergence, un peu différente, mais assez proche, est utilisée dans les problèmes d'optimisation des formes pour des problèmes aux limites mixtes. Le problème typique d'optimisation des formes est de montrer l'existence dans une classe des domaines, déclarés admissibles, d'un domaine optimale au sens que la solution sur ce domaine du problème aux limites considérés réalise le minimum d'énergie pour des sources et d’autres paramètres du problème fixés. On montre que sur des ensembles aux bords Lipschitziens avec certaines propriétés d'uniformité géométrique il est possible de trouver un infimum de l'énergie acoustique par rapport à la solution d'un problème dissipatif d'Helmholtz, mais pour pouvoir assurer l'existence d'un domaine sur lequel l'énergie réalise son minimum, il faut autoriser au bord d'être un bord fractal (au sens de la dimension bornée du bord).