Parmi les principales raisons qui ont aboutit au progrès technique et au développement des systèmes de communication sans fils modernes, on trouve la forte demande des besoins et des exigences des différents utilisateurs. Ainsi, depuis les systèmes de deuxième génération (2G), de nombreux changements ont eu lieu, principalement, le passage des modulations (WF) mono-porteuses aux modulations multi-porteuses (MC) introduites pour la transmission de la 4G en sens descendant.En effet, l'idée d'introduire les formes d'ondes MC est de se débarrasser des effets du canal de propagation, en relâchant le processus d’égalisation par la transmission des symboles de données sur des sous-canaux ou des sous-porteuses à évanouissements plats. En outre, la modulation MC la plus répandue est l'orthogonal frequency division multiplexing (OFDM), qui est devenu très dominante et largement utilisée dans de nombreuses normes sans fil, telles que long term evolution (LTE)- Advanced (LTE-A) et le Wi-Fi. Ce succès de l'OFDM est du grâce à ses avantages présentés dans la simple implémentation par le biais de l'utilisation de la transformée de Fourrier rapide inverse (IFFT) à la transmission et de la transformé de Fourrier rapide à la réception. De plus, avec l'utilisation du préfixe cyclique (CP), la transmission est ainsi sans interférences inter-symboles (ISI).Malgré la dominante utilisation de l'OFDM MW, néanmoins, elle présente des inconvénients. En effet, cette technique souffre de la perte de l'efficacité spectrale à cause de l'utilisation du CP, sans oublier la mauvaise localisation fréquentielle à cause de la mise en forme rectangulaire du filtre prototype utilisé dans OFDM. Ces inconvénients ont été une source de motivation pour les chercheurs pour la conception d'une nouvelle MC WF, ayant une meilleure localisation fréquentielle, une meilleure robustesse au synchronisme des utilisateurs, tout en conservant une complexité de mise en oeuvre modérée. Dans ce contexte, un nombre élevé de MC WF post-OFDM ont été proposés et mis en œuvre pour répondre aux scénarios et aux exigences de la 5G d'une manière flexible.Ainsi, la modulation multi-porteuse à base des bancs de filtres (FBMC-OQAM) a été proposée en tant qu'une solution alternative à l'OFDM WF et ce pour surmonter ses inconvénients. En effet, la modulation FBMC-OQAM utilise un filtre prototype (Phydyas) qui lui permet d'avoir une meilleure localisation fréquentielle ce que lui offre une meilleure performance en supportant les phénomènes d'asynchronisme entre les utilisateurs ainsi que la transmission avec différentes numérologies. En outre, l'efficacité spectrale est améliorée grâce à la non utilisation du CP et de bandes de garde larges. De plus, l'orthogonalité dans le domaine réel est garantie grâce à l'utilisation de la modulation OQAM. Cependant, cette orthogonalité est perdue dans les canaux sélectifs en fréquence, ce qui nécessite des techniques d'égalisation avancées.Dans ce contexte, l'objectif de cette thèse est d'étudier plusieurs types d'égalisation appliqués aux systèmes FBMC-OQAM. Vu que la modulation utilisée en FBMC-OQAM peut être considérée comme la transmission de deux flux de modulation M-PAM sur la même sous porteuse et comme le traitement largement linéaire est plus performant par rapport au traitement classique pour la modulatyion M-PAM, on va se concentrer sur les avantages de ce traitement largement linéaire utilisé pour le système FBMC-OQAM. En outre, en se basant qur e caractère cyclo-stationnaire du signal FBMC-OQAM, nous avons proposés une structure d'égalisation avancée basée sur le traitement FRESH qui a été appliqué sur un système FBMC-OQAM utilisant différente numélogies.