Les verres de TeO2 présentent des propriétés optiques non linéaires de troisième ordre 50 fois supérieures à celles des verres de silicate classiques, ce qui en fait des candidats prometteurs pour les systèmes de conversion de fréquence, les commutateurs optiques et d'autres applications. L'existence d'une paire libre 5s2 sur l'atome de Te dans le réseau vitreux est à l'origine de ces propriétés exceptionnelles. Bien que plusieurs études portent sur la structure du verre TeO2, l'ordre à courtes et moyennes distances dans ce matériau reste un sujet de débat. En particulier, l'effet de l'ajout d'un oxyde modificateur dans le système vitreux TeO2 a montré un fort effet sur ses propriétés optiques, mécaniques et chimiques. Cependant, une étude complète sur l'évolution de la structure à l'échelle atomique dans ces verres en corrélation avec les propriétés du matériau fait toujours défaut. Dans cette thèse, nous avons recours aux techniques de dynamique moléculaire par premiers principes pour produire des modèles amorphes de TeO2 pur, de Tl2O-TeO2 binaire et de TiO2-Tl2O-TeO2 ternaire présentant un bon accord avec les mesures expérimentales. Ces modèles sont ensuite utilisés pour étudier la topologie du réseau des systèmes à base de TeO2 en fonction de la concentration d'oxyde modificateur, avec une attention particulière sur l'ordre à courte portée corrélé aux propriétés électroniques du matériau. En outre, nous étudions les propriétés vibrationnelles et optiques non linéaires des verres à base de TeO2 afin d'améliorer notre compréhension de la relation structure-propriétés.