Replica method and asymptotic equivalence
La méthode des répliques et l'équivalence asymptotique
Résumé
Replica method is a favorite tool of physicists for studying large disordered systems. Although the method is highly non-rigorous, it can solve difficult problems across various domains: random matrix theory, convex optimization, combinatorial optimization, Bayesian inference, etc. The method has been successfully used to analyze theoretical models in wireless communication and machine learning.The rigorous alternatives for the replica method include the method of deterministic equivalents in random matrix theory, the objective method in combinatorial optimization, and the CGMT (convex Gaussian min-max theorem) in random convex optimization. Although these methods works in different domains, they offer one common insight: the asymptotic equivalence, which tells us that the large system under study is equivalent to a simpler system. As a result, many difficult computations on the original system can be done more easily on the equivalent system.In contrast, with the replica method, the insights come after the calculations. We start by writing down what we want to compute and then proceed to get the answer at the end. After calculating various quantities related to the system, with some observations and a good intuition, we may uncover the equivalent system. In this thesis, we show that the asymptotic equivalent of a disordered system can be obtained directly through the replica formalism by paying attention to the large-deviation computations lurking behind the replica computations. In other words, we develop a version of the replica method that can directly compute the asymptotic equivalent of a disordered system. This version of the replica method, which fits into the same framework of deterministic equivalence as the rigorous methods above, can compute the deterministic equivalents of random matrices, formally derive the CGMT, and solve problems in high-dimensional Bayesian statistics. Moreover, it can derive results on the Sherrington-Kirkpatrick model in a clear and simple manner.In this version of the replica method, each disordered system is associated with an object called ``the replica density''. By De Finetti's theorem, a disordered system can be recovered from its replica density. To compute the asymptotic equivalent of a disordered system, we compute the equivalent of its replica density, using a result that we derive from the fundamental Gibbs principle. We thus obtain another replica density, which corresponds to another disordered system. This system is asymptotically equivalent to the original disordered system.
La méthode des répliques est un outil préféré des physiciens pour étudier les grandes systèmes désordonnés. Bien que la méthode soit très peu rigoureuse, elle peut résoudre des problèmes difficiles dans les domaines différents: théorie des matrices aléatoires, optimisation convexe, optimisation combinatoire, inférence bayésienne, etc. La méthode a été utilisée avec succès pour analyser des modèles théoriques dans communication sans fil et apprentissage automatique.Les alternatives rigoureuses à la méthode des répliques incluent la méthode des équivalents déterministes de la théorie des matrices aléatoires, la méthode objective de l'optimisation combinatoire et le CGMT (``convex Gaussian min-max theorem'' en anglais) dans l'optimisation convexe. Bien que ces méthodes fonctionnent dans des domaines différents, elles offrent un point commun : l’équivalence asymptotique, qui nous indique que le grand système étudié est équivalent à un système plus simple. En conséquence, de nombreux calculs difficiles sur le système d’origine peuvent être effectués plus facilement sur le système équivalent.En revanche, avec la méthode de réplique, les aperçus viennent après les calculs. On commence par écrire ce qu'on veut calculer, puis on continue les calculs jusqu'à la fin pour obtenir le résultat. Après avoir calculé diverses quantités liées au système, avec quelques observations et une bonne intuition, on peut découvrir le système équivalent. Dans cette thèse, nous montrons que l'équivalent asymptotique d'un système désordonné peut être obtenu directement avec le formalisme des répliques en prêtant attention aux calculs à grande déviation qui se cachent derrière les calculs des répliques. En d’autres termes, nous développons une version de la méthode des répliques capable de calculer directement l’équivalent asymptotique d’un système désordonné. Cette version de la méthode des répliques, qui s'inscrit dans le même cadre d'équivalence déterministe que les méthodes rigoureuses ci-dessus, peut calculer les équivalents déterministes des matrices aléatoires, dériver formellement le CGMT et résoudre des problèmes de statistiques bayésiennes de grande dimension. De plus, il peut dériver des résultats sur le modèle de Sherrington-Kirkpatrick de manière claire et simple.Dans cette version de la méthode des répliques, chaque système désordonné est associé à un objet appelé ``la densité des répliques''. Grâce au théorème de De Finetti, un système désordonné peut être récupéré à partir de sa densité des répliques. Pour calculer l'équivalent asymptotique d'un système désordonné, nous calculons l'équivalent de sa densité des répliques, en utilisant un résultat que nous dérivons à partir du principe fondamental de Gibbs. On obtient ainsi une autre densité des répliques, qui correspond à un autre système désordonné. Ce système est asymptotiquement équivalent au système désordonné original.
| Origine | Version validée par le jury (STAR) |
|---|