Dans le cadre de procédures médicales ou chirurgicales minimalement invasives, l'assistance aux cliniciens pour la planification et la réalisation de leurs gestes joue un rôle important dans la réussite des interventions. Cette thèse s'inscrit dans ce contexte des gestes médico-chirurgicaux assistés par ordinateur et s'intéresse plus particulièrement à la modélisation et à la simulation de structures anatomiques de manière précise et réaliste. Une méthode de modélisation est proposée afin d'obtenir des simulations qui prennent en compte à la fois l'environnement naturel d'un organe donné et l'influence des instruments chirugicaux. Le travail de modélisation est appliqué à la simulation de procédures médicales pour le diagnostic et le traitement du cancer de la prostate (biopsies et curiethérapies).

Le modèle développé est un modèle physique discret qui permet notamment de simuler le comportement de tissus mous en interaction avec d'autres structures anatomiques. Une formulation basée sur un principe de mémoire de forme locale est proposée et permet de modéliser l'élasticité d'un matériau grâce à une mesure géométrique de la déformation locale.
Une modélisation de l'insertion d'aiguilles dans des tissus mous complète le modèle de l'environnement anatomique.

Afin de valider le comportement de la méthode de modélisation développée, une démarche expérimentale est proposée pour comparer les simulations obtenues avec d'une part différentes méthodes de modélisation des tissus mous telles que la méthode des éléments finis ou la méthode des masses-ressorts et d'autre part des données réelles provenant de fantômes et d'images médicales. La méthode a ensuite été appliquée à la simulation des deux procédures médicales étudiées afin de modéliser dynamiquement le comportement de la prostate dans son environnement anatomique et médical.