L'étude des effets optiques non-linéaires suscite un vif intérêt pour un large champ d'applications dans les systèmes de transmission optiques, comme la régénération des données ou le démultiplexage temporel. La réalisation de ces fonctions exige de nouvelles fibres ou guides d'ondes qui possèdent une très forte non-linéarité Kerr. Dans le cadre de cette thèse nous avons retenu l'étude de guides polymères et de fibres en verres de chalcogénures pour leur très fort coefficient non-linéaire n2 dont la valeur atteint 10000 respectivement 500 fois celui de la silice à la longueur d'onde de 1550 nm. Dans cette thèse, nous proposons de nouvelles méthodes de caractérisations non-linéaires de fibres et guides optiques. Ces méthodes permettent de déterminer simultanément le coefficient non-linéaire Kerr et la dispersion ainsi que d'améliorer la précision de mesure par rapport aux techniques précédentes. Une nouvelle solution d'analyse modale est également développée. La méthode permet non seulement de calculer le nombre de modes, mais aussi de déterminer la distribution de puissance entre les modes. Nous proposons ensuite la caractérisation et la démonstration d'effets non-linéaires dans deux nouvelles fibres microstructurées en verre de AsSe fabriquées en 2010 et 2011 par Perfos, Lannion et SRC, Rennes. Deux records de non-linéarité de 31300 W-1km-1 et 41000 W-1km-1 sont mesurés Pour la dernière fibre (fabriquée en 2011), la conversion de longueur d'onde à 10 GHz et 42,7 GHz a été réalisée avec une puissance d'entrée compatible avec les télécoms. Finalement, les conditions nécessaires à l'observation des effets non-linéaires dans les guides polymères sont étudiées.