Toward Floating-Point Run-time Variable Precision in CPU-based Architectures
Vers une Précision des Nombres Flottants Ajustable Dynamiquement à l'Exécution
Résumé
Full-precision Floating-Point Units (FPUs) can be a source of extensive hardware overhead in general-purpose and application-specific processors nowadays. As several modern applications feature an inherent ability to tolerate precision loss, a new computing paradigm has emerged: Transprecision Computing (TC). For such applications, the standard IEEE Floating-Point (FP) formats are over-designed.This thesis proposes contributions that alleviate some State-of-the-Art limitations. First, we propose a minimally-intrusive approach that introduces approximations at the instruction execution/interpretation level, allowing the approximation of virtually all kinds of executable binaries (bare-metal applications, single-/multi-threaded user applications, OS/RTOS, etc.). The methodology supports Arbitrary Reduced Precision (ARP) (i.e., non-standard reduced-precision FP formats) as well as Variable Precision in Time (i.e., the ability for applications to tune their operating precision at run-time). Subsequently, a software simulator called AxQEMU was developed to simulate the impact of such approximations on applications’ Quality of Result (QoR). Finally, a 28nm FD-SOI ASIC multi-precision FPU was designed to support ARP and VPT in hardware hence achieving real-world energy efficiency gains.The proposed methodology and its implementations were evaluated against a set of error-resilient benchmarks with a particular emphasis on iterative methods. The experiments show how fine-grained energy/accuracy trade-offs can be made thanks to ARP and VPT, leading to drastic computational energy savings compared to traditional techniques while preserving the application’s QoR. With an acceptable level of quality loss on the output results, energy efficiency is further increased.
De nos jours, les unités de calcul à virgule flottante (FPU) à précision standard consomment une partie importante des ressources énergétiques dans les architectures à base de processeurs. Beaucoup d’applications modernes ont une capacité inhérente à tolérer une perte de précision entraînant peu ou pas d’impact sur les résultats en sortie. Pour de telles applications, les formats de virgule flottante (FP) standardisés IEEE sont souvent surdimensionnés. Cette caractéristique a permis à un nouveau paradigme de conception d’émerger ces dernières années: le Calcul en Transprécision (TC).Cette thèse propose plusieurs contributions qui pallient certaines limitations de l’état de l’art. Tout d’abord, nous proposons une approche minimalement intrusive qui exploite les approximations des calculs en FP pour la réduction de puissance, du temps d’exécution et de l’énergie consommée. Cette approche introduit des approximations au niveau de l’exécution/interprétation des instructions. Cela permet de traiter tous les types de binaires exécutables (applications bare-metal, applications utilisateur single-/multi-threads, OS/RTOS, etc.). La méthodologie prend en charge la précision réduite arbitraire (ARP) (formats de FP à précision réduite non standard) ainsi que la précision variable dans le temps (possibilité pour les applications d’ajuster leur précision opérationnelle au moment de l’exécution). Par la suite, une implémentation logicielle a été développée. Elle simule l’impact de ces calculs approchés sur la qualité du résultat (QoR) des applications. Enfin, une FPU matérielle multiprécision a été conçue en technologie FD-SOI ASIC de 28 nm et qui permet d’obtenir des gains d’efficacité énergétique importants.La méthodologie proposée et ses implémentations ont été évaluées conjointement en logiciel et en matériel sur un ensemble d’applications de référence, avec un focus sur des méthodes itératives. Les expériences montrent comment des ajustements très fins de la précision peuvent être réalisés grâce à l’ARP et à la VPT, sans perte de qualité du résultat, pour générer des économies importantes en termes d’énergie consommée lors du calcul. Avec un niveau de perte de qualité acceptable sur les résultats en sortie, l’efficacité énergétique est encore accrue.
| Origine | Version validée par le jury (STAR) |
|---|