MRAM based neuromorphic cell for Artificial Intelligence
Cellule MRAM neuromorphique pour l'Intelligence Artificielle
Résumé
The rapid evolution of the society in term computational needs tends to target application that were once human exclusive. Development of deep learning algorithm made possible overpassing some capabilities in the task the human brain were performing the best as for instance image and speech recognition, decision making and optimization problems. However, The Artificial Neural Networks (ANNs) capable of solving these tasks use intensively massive amount of data and requires multiple operations at the same time. When running ANN algorithms in a classical Von Neumann architecture where the computing unit is separated by the memory, latency and high energy consumption starts to rise exponentially with the size of the emulated neural network. From this observation, the scientific community starts looking at brain inspired computing sheme to overcome the current limitation. In particular, spiking neural networks (SNNs) were early predicted by W. Maass in 1997 to be a suitable candidate to leverage the sparsity of the network while showing egal if not better results than the first generations of ANN. Up until now, some Application Specific Integrated Circuits (ASICs) were proposed by company such as Intel and IBM to emulate SNN with CMOS-based based technology. The number of transistors needed to accomplish some critical functionality like spiking neurons in these solution is still very large and not suitable for downscaling strategies. In this context, new hardware solutions were proposed to emulate the synaptic and neuronal features while reducing the footprint and the energy consumption. In particular, various types of nano-synapses based on emerging non-volatile memory (NVM) explored multi-level synaptic weights and short-term/long-term memory. Among them, the spintronic solutions are the most advanced in maturity compared to the other technology because magnetic-random-access-memory technology, which represents a binary synapse, has already reached the market for ten years. However, a spiking neuron compatible with spintronic-based synapse is still missing in the literature.The thesis takes place in this context of developing new solutions with spintronics in order to emulate spiking neurons. Magnetic tunnel Junctions (MTJs) have been widely used in spintronics as memory unit because of their high endurance while demonstrating relatively small energy for writing and reading operation and are BEOL CMOS compatible. The solution elaborate along the manuscript takes all the benefits of the MTJs to design a spiking neurons based on the windmill dynamics.The dual-free layer MTJ concept is modelled, designed, nano-patterned and electrically characterized to give a constructive outlook on how viable is this structure for emulation spiking neuron.
La constante évolution de la société en termes de besoin computationnel tend vers les applications d'intelligence artificiel qui étaient autrefois réservés exclusivement à l'Homme. Le développement d'algorithme reposant sur l'apprentissage profond a rendu possible le dépassement des capacités du cerveau humain dans ces domaines de prédilections comme la reconnaissance d'images et de paroles, la prise de décision et les problèmes d'optimisation. Pourtant, les réseaux de neurones artificiels capable de résoudre ces problèmes repose de manière intensive sur d'énorme quantité de donnés et requiert de nombreuses opérations en parallèle. Quand ces algorithmes tournent sur des architectures classiques de type Van Neumann où l'unité de calcul est séparée de l'unité mémoire, la latence du réseau et son énergie consommée augmente exponentiellement avec sa taille. De ce constat, la communauté scientifique commença a développé des schémas informatiques inspiré du cerveau afin de surpasser les limitations observées. En particulier, les réseaux de neurones impulsionnels ont été prédit par W. Maass en 1997 comme étant un candidat adapté à la maximisation du dispersement des opérations dans le réseau tout en démontrant des performances égales, sinon meilleures, aux premières générations de réseaux de neurones. Jusqu'à maintenant, des circuits intégrés orienté vers une application donnée (ASICs) ont été développé par des industriels tel que Intel ou IBM pour émuler des réseaux de neurones impulsionnels, se basant sur des technologies courantes CMOS. Le nombre de transistors nécessaire pour accomplir certaines fonctionnalités critique propre aux réseaux de neurones, comme les neurones impulsionnels, sont toujours très important, ce qui n'est pas souhaitable dans une stratégie de réduction de miniaturisation poussées.Dans ce contexte, de nouvelles solutions ont été proposé pour reproduire les caractéristiques synaptiques et neuronales tout essayant de réduire un maximum l'empreinte physique et la consommation énergétique. En outre, différent type de nano-synapses reposant sur des mémoires émergeantes non-volatile ont exploré des poids synaptiques multi-niveaux ainsi que la reproduction des fonctions mémoires court-terme et long-terme. Parmi elles, les solutions basées sur une technologie spintronique sont celle les plus matures d'un point de vue industriel puisque les mémoires à accès direct magnétique (MRAM), pouvant servir de synapses binaires, ont déjà atteint le marché international depuis une dizaine année. Pourtant, l'existence d'un neurone impulsionnel compatible avec une synapses spintroniques est toujours manquant dans la littérature actuelle.Cette thèse prend donc sa place dans ce contexte de développement de nouvelles solutions spintroniques afin d'émuler un neurone impulsionnel. Les jonctions tunnels magnétiques (JTMs) largement utilisées en spintronique pour leur endurance en tant que mémoire tout en démontrant des énergies d'écriture et de lecture très faible ainsi qu'une compatibilité "back-end of line" et CMOS. La solution élaborée dans ce présent manuscrit prends l'avantage des JTMs pour concevoir un neurone impulsionnel basé sur la dynamique "windmill". Le concept de JTM à double couche libre est modélisé, nano fabriqué et caractérisé électriquement pour donner une perspective constructive sur son potentiel utilisation en tant que neurone impulsionnel.
| Origine | Version validée par le jury (STAR) |
|---|