Laboratoire d'informatique Parallélisme, Réseaux et Algorithmique Distribuée

The key element to ensure efficient use of HPC infrastructures is to optimize the performance and efficiency of the applications. The Centre of Excellence on Performance Optimization and Productivity (POP CoE, www.pop-coe.eu) was initiated in October 2015 with the fundamental purpose of assisting a broad community of HPC application developers and users in both science and industry domains helping them to understand the performance-related issues of their applications and thus improve their efficiency and productivity. This fundamental purpose is reached by externally and objectively auditing the performance of the codes to all interested users, by providing not only qualitative but also quantitative analysis through the use of POP tools and methodology. The current proposal, Performance Optimization and Productivity 3 (POP3), is articulated in 3 main pillars: services, users, and co-design. POP services mainly focus on performance assessments with the goal to evaluate code performance and scaling, identifying the main sources of inefficiency and providing some insight and recommendation about how to improve it. POP3 also provides second level services that have been extended and include proof of concepts, energy efficiency and advisory studies. Although POP3 will continue targeting all scales and types of users, with this proposal we will focus our efforts on larger scales, assessing the execution on the EuroHPC sites of some of the European flagship HPC applications for other CoEs. However, POP3 will still provide services to prescribers and SMEs to promote an efficient usage of the computing resources. The co-design will be covered in two dimensions. Internally in POP3 we will co-design the tools and methodology to be able to analyse the applications on the selected platform at the selected scale. Externally, POP3 will identify best practices and kernels that will be offered to other European projects as well as the wide audience of parallel applications.

L'avènement des grands modèles de langage suscite beaucoup d’intérêt en raison de leur potentiel avéré. Cependant, l’étude de leur impact dans le monde du calcul numérique reste limitée. Bien qu'il existe des projets et outils conçus pour détecter les anomalies numériques (ex : InterFLOP, CADNA, VERROU VERIFICARLO, PENE) ou pour garantir la précision et la robustesse (ex : FLDLib, Fluctuat), ces outils reposent encore largement sur le travail de l’expert. L'émergence de nouveaux formats flottants en très faible précision promet d’important gains en termes de FLOP par watt, mais les travaux de recherche relatifs à ces formats restent limitées, à l'exception de l'arrondi aléatoire ou de la précision mixte dans le cas les routines d'algèbre linéaire. Sachant que toutes modifications du format de représentation des nombres flottants peut avoir un impact sur les résultats calculés, nous proposons de tirer parti des IA génératives pour accompagner les développeurs HPC et les experts numériques dans la transformation des codes legacy en ciblant la réduction de la précision. L’objectif est de réduire les besoins en puissance de calcul tout en garantissant l'exactitude des résultats. En analysant les codes existants, nous doterons un modèle de langage étendu de la connaissance numérique nécessaire afin d'identifier les possibilités de réduction de la précision et suggérer des modifications de code. Nous proposons d'explorer comment l'apprentissage statistique pourrait accompagner la transition vers le calcul frugal et faire en sorte que les algorithmes relatifs à la précision mixte reste adaptés aux flottants à très faible précision, sans pour autant sacrifier l'intégrité des calculs et ce grâce à l'utilisation d'algorithmes certifiés lorsque nécessaire. Cette approche favorisera ainsi des solutions durables et économes en énergie sans pour autant compromettre les objectifs en termes de fiabilité des calculs.

La qualité et la reproductibilité numérique des résultats des programmes est impacté par l’utilisation intensive de l’arithmétique flottante (FP). Or, le problème de la détection, localisation et correction de bugs numériques entre dans une nouvelle aire : celle de l’augmentation de la puissance de calcul utilisée, de l’émergence de nouveaux processeurs et nouveaux formats flottants pour traiter de nouvelles catégories de problèmes. Le projet InterFLOP propose une plate-forme modulaire évolutive, afin d'offrir aux utilisateurs des moyens pour analyser et contrôler le coût associé à l’utilisation des FP dans les programmes actuels en intégrant ces nouvelles dimensions. Elle offrira des méthodes et outils composites, en partant des outils existants développés par les partenaires et complétés par de nouvelles analyses. Il sera ainsi possible de bénéficier des propriétés et informations propre à chacun, afin de construire de nouveaux schémas d’analyse plus précis, rapides et informatifs, inaccessibles autrement.