En radiothérapie, les nanoparticules faites de métaux lourds telles que les nanoparticules l’or (AuNPs) ont démontré des propriétés radiosensibilisantes particulièrement prometteuses. Une augmentation de la dose et du nombre de radicaux produits, à échelle tumorale (effet photoélectrique) et à échelle sub-cellulaire (électrons Auger) pourraient être responsables d’une partie des effets pour les rayons X de basse énergie. Dans le cadre de cette thèse, nous proposons d'étudier ces mécanismes physiques et chimiques précoces par des outils de simulation, afin de mieux les quantifier et comprendre leur impact sur la survie cellulaire. Nous avons d’abord finalisé et validé une simulation Monte Carlo développée pour suivre les électrons jusqu’à très basse énergie à la fois dans l’eau (meV) et dans l’or (eV). Nous avons obtenu de bons résultats pour l’or en comparant nos données avec des données expérimentales de la littérature, en terme de production d’électrons et de perte d’énergie. Nous avons utilisé cet outil de simulation pour quantifier l’énergie déposée dans des nanocibles situées près d’une AuNP, qui est corrélée à la probabilité de générer des dommages. Cette étude a nécessité d’importantes optimisations, afin d’atteindre des temps de calculs raisonnables. Nous avons montré une augmentation significative de la probabilité d’avoir un dépôt d’énergie dans la nanocible supérieur à une énergie seuil, dans un rayon de 200 nm autour de la AuNP, ce qui suggère qu’une AuNP pourrait efficacement détruire des cibles biologiques situées dans sa périphérie. Nous avons ensuite utilisé la simulation pour quantifier des effets chimiques. A échelle macroscopique, nous avons estimé l'augmentation de la quantité de radicaux libres produits en présence d’une concentration d’AuNPs. Nous avons également comparé la distribution radiale des espèces chimiques d’une nanoparticule d’or ionisée, à celle d’une nanoparticule d’eau ionisée. Si le nombre total d'espèces chimiques par ionisation était en moyenne plus important pour l'or que pour l'eau, le nombre d’espèces chimiques produites en périphérie de la nanoparticule n’était pas systématiquement supérieur pour l’or par rapport à l’eau. Cela suggère que l’effet de la AuNP dans sa périphérie réside surtout dans l’augmentation de la probabilité d’avoir une ionisation. Nous avons également étudié plusieurs scénarios pour expliquer l’augmentation expérimentale inattendue de la production d’espèces fluorescentes lors de l’irradiation d’une solution d’AuNPs et de coumarine. Notre étude suggère qu’un scénario plausible pouvant expliquer les observations expérimentales est l’interférence entre une AuNP et une des molécules intermédiaires produites suite à la réaction entre la coumarine et le radical hydroxyle. Pour finir, nous avons injecté les résultats des simulations dans le modèle biophysique NanOx, développé à l’origine à l’IPNL pour calculer des doses biologiques en hadronthérapie, afin de prédire la survie cellulaire en présence de AuNPs. Nous avons aussi implémenté le Local Effect Model (LEM), principal modèle biophysique utilisé dans le contexte des nanoparticules. Pour le LEM, nous nous sommes appuyés sur plusieurs approches dosimétriques proposées dans la littérature. Pour un système simpliste où les AuNPs étaient distribuées de façon homogène dans la cellule, nous avons montré que, selon l’approche dosimétrique, les prédictions de survies du LEM étaient significativement différentes. De plus, nous avons obtenu une augmentation de la mort cellulaire avec NanOx qui était due uniquement à l’augmentation macroscopique du dépôt de dose. Nous n’avons obtenu aucun effet supplémentaire dû aux électrons Auger, en contradiction avec les prédictions du LEM. Cette étude suggère que les modèles actuels proposés pour prédire l'effet radiosensibilisant des AuNPs doivent être améliorés pour être prédictifs, en prenant par exemple en compte de potentiels mécanismes biologiques mis en évidence par l'expérience