Accueil » Actualité » Intel présente ses CPU et GPU MAX Series : Sapphire Rapids-HBM et Ponte Vecchio

Intel présente ses CPU et GPU MAX Series : Sapphire Rapids-HBM et Ponte Vecchio

Fin d’un suspens de plusieurs mois : les Xeon de 4e génération avec mémoire HBM2e proposent jusqu’à 56 cœurs CPU.

Avec un peu d’avance sur le Supercomputing 22, et quelques heure avant l’officialisation par AMD des ses EPYC Genoa, Intel a présenté de nouveaux produits pour les centres de données : des CPU Xeon Max et des GPU Data Center Max Series.

Image 1 : Intel présente ses CPU et GPU MAX Series : Sapphire Rapids-HBM et Ponte Vecchio
© Intel

Ces noms dissimulent en réalité des CPU et des cGPU dont nous avons régulièrement parlé au cours des derniers mois, à savoir les processeurs Sapphire Rapids et les GPU Ponte Vecchio.

Pour s’adapter aux restrictions, NVIDIA propose une alternative à l’A100 en Chine

Intel Max Series CPU

Les processeurs Xeon Max embarquent finalement jusqu’à 56 cœurs de performance (Golden Cove) construits à partir de quatre tuiles et connectés à l’aide de la technologie EMIB (embedded multi-die interconnect bridge) d’Intel, dans une enveloppe de 350 watts. Les processeurs Xeon Max contiennent 64 Go de mémoire intégrée à large bande passante (HBM2e), ainsi que des E/S PCI Express 5.0 et CXL1.1. Les CPU Xeon Max fourniront plus de 1 Go de capacité de mémoire à large bande (HBM) par cœur, “ce qui est suffisant pour répondre à la plupart des charges de travail HPC courantes” selon Intel. Ces puces prennent en charge huit canaux de mémoire DDR5 et l’interface PCIe Gen 5 avec le protocole CXL 1.1.

Image 2 : Intel présente ses CPU et GPU MAX Series : Sapphire Rapids-HBM et Ponte Vecchio
© Intel
Image 3 : Intel présente ses CPU et GPU MAX Series : Sapphire Rapids-HBM et Ponte Vecchio
Image 4 : Intel présente ses CPU et GPU MAX Series : Sapphire Rapids-HBM et Ponte Vecchio

Performances

Pour vanter les performances de ses nouveaux processeurs Xeon, Intel les compare aux EPYC Milan-X d’AMD (des EPYC 7003 dotés du 3D V-Cache). Comme indiqué en début d’article, AMD dégainera des EPYC Genoa sous architecture Zen 4 et proposant jusqu’à 96 cœurs aujourd’hui en fin d’après-midi.

Avant cela, revenons-en à nos Xeon Max. Intel rapporte que les CPU “offrent des performances jusqu’à 4,8 fois supérieures à celles de la concurrence sur des charges de travail HPC réelles”. Plus précisément, la société liste les points clefs qui suivent :

68 % de consommation électrique en moins qu’un cluster AMD Milan-X pour les mêmes performances HPCG.
Les extensions AMX ( Advanced Matrix Extensions) stimulent les performances de l’IA et offrent un débit maximal 8 fois supérieur à celui d’AVX-512 pour les opérations d’accumulation INT8 avec INT32.
Offre la flexibilité de fonctionner dans différentes configurations de mémoire HBM et DDR.
Repères de charge de travail :
Modélisation climatique : 2,4x plus rapide que AMD Milan-X sur MPAS-A en utilisant seulement la HBM.
Dynamique moléculaire : Sur DeePMD, amélioration des performances de 2,8x par rapport aux produits concurrents avec la mémoire DDR.

Les avantages de la HBM2E

Pour apporter un peu plus de détails sur la mémoire HBM2e, elle offre une bande passante maximale d’environ 1 To/s, ce qui se traduit en effet par 1,14 Go de HBM2E par cœur à 18,28 Go/s. Pour la comparaison, un CPU Sapphire Rapids à 56 cœurs collaborant avec huit barrettes de DDR5-4800 plafonne à 307,2 Go/s de bande passante, autrement dit un débit de 5,49 Go/s par cœur.

Les Xeon Max peuvent utiliser la mémoire HBM2E de trois manières différentes : simplement comme mémoire système ; comme cache haute performance pour le sous-système de mémoire DDR5 ; au sein d’un pool de mémoire unifié (HBM flat mode). Les deux premières solutions sont transparentes côté logiciel, mais pas la dernière.

Intel Max Series GPU

Les GPU de calcul Data Center GPU Max d’Intel, nom de code Ponte Vecchio, reposent sur l’architecture Xe-HPC. Par rapport à Xe-HPG, l’architecture Xe-HPC propose des sous-systèmes de mémoire et de mise en cache plus sophistiqués, ainsi que des cœurs Xe configurés différemment (chaque cœur Xe-HPG possède 16 moteurs vectoriels de 256 bits et 16 moteurs matriciels de 1024 bits, alors que chaque cœur Xe-HPC possède huit moteurs vectoriels de 512 bits et huit moteurs vectoriels de 4096 bits). Le ray tracing est – étrangement – toujours de la partie, mais le GPU Xe-HPC ne possède pas certains éléments d’un GPU Xe-HPG, comme les unités de texturage par exemple. Le GPU associe 47 tuiles, dont 8 tuiles de HBM2e, et compte plus de 100 milliards de transistors.

La série Max propose jusqu’à 128 cœurs Xe-HPC. Intel met en avant les caractéristiques suivantes :

408 Mo de cache L2 – le plus élevé du secteur – et 64 Mo de cache L1 pour augmenter le débit et les performances.
Le seul GPU HPC/AI avec accélération native du ray tracing, conçu pour accélérer la visualisation et l’animation scientifiques.
Bancs d’essai des charges de travail :
Finance : gain de performance de 2,4 fois par rapport à l’A100 de NVIDIA sur l’évaluation des options de crédit de Riskfuel.
Physique : amélioration de 1,5 fois par rapport au A100 pour les simulations de réacteurs virtuels NekRS.

Intel prend cette fois l’A100 comme cible. Là encore, ce n’est pas le produit le plus récent de NVIDIA ; l’entreprise a dégainé un H100 il y a quelques semaines.

Image 5 : Intel présente ses CPU et GPU MAX Series : Sapphire Rapids-HBM et Ponte Vecchio
© Intel
Image 6 : Intel présente ses CPU et GPU MAX Series : Sapphire Rapids-HBM et Ponte Vecchio
Image 7 : Intel présente ses CPU et GPU MAX Series : Sapphire Rapids-HBM et Ponte Vecchio

Facteurs de forme

Les GPU de la série Max seront disponibles dans plusieurs facteurs de forme :

GPU Max Series 1100 : Une carte PCIe double largeur de 300 watts avec 56 cœurs Xe et 48 Go de mémoire HBM2e. Plusieurs cartes peuvent être connectées via des ponts Intel Xe Link.
GPU Max Series 1350 : Un module OAM de 450 watts avec 112 cœurs Xe et 96 Go de HBM.
GPU Max Series 1550 : Module OAM de 600 watts, le plus performant d’Intel, avec 128 cœurs Xe et 128 Go de HBM.

Au-delà des cartes et modules individuels, Intel proposera le sous-système Intel Data Center GPU Max Series avec une carte porteuse GPU OAM x4 et Intel Xe Link pour permettre une communication multi-GPU haute performance au sein du sous-système.

cGPUData Center Max 1100Data Center Max 1350Data Center Max 1550AMD Instinct MI250XNvidia H100Nvidia H100
Facteur de formePCIeOAMOAMOAMSXMPCIe
Tuiles + mémoire??39+82+81+61+6
Transistors??100 milliards58 milliards80 milliards80 milliards
Cœurs Xe HPC | Unités de calcul56112128220132114
Cœurs RT56112128
Moteurs vectoriels 512-bit4488961024???
Moteurs matriciels 4096-bit4488961024???
Cache L1??64 Mo à 105 To/s???
Cache L2??408 Mo à13 To/s?50MB50MB
HBM2E48 Go96 Go128 Go à 3,2 To/s128 Go/s à 3,2 To/s80 Go à 3,35 To/s80 Go à 2 To/s
Multi-GPU81616888
Consommation300W450W600W560W700W350W

Performances Ponte Vecchio

Comme le souligne Anton Shilov de Tom’s Hardware US, les XMX (Xe Matrix Extensions) permettent d’obtenir des performances tensorielles/matricielles théoriques de haut vol : jusqu’à 419 TFLOPS FP32 et jusqu’à 1678 INT8 TOPS, selon Intel. Seulement, notre confrère met en évidence dans le tableau qui suit une réalité moins idyllique : le Max 1550 reste inférieur au H100 de NVIDIA dans la plupart des cas, et n’est pas systématiquement meilleur que l’Instinct MI250X d’AMD.

cGPUData Center Max 1550AMD Instinct MI250XNVIDIA H100NVIDIA H100
Facteur de formeOAMOAMSXMPCIe
HBM2E128 Go à 3,2 To/s128 Go/s à 3,2 To/s80 Go à 3,35 To/s80 Go à 2 To/s
Consommation600W560W700W350W
Peak INT8 Vector?383 TOPS133,8 TFLOPS102,4 TFLOPS
Peak FP16 Vector104 TFLOPS383 TFLOPS134 TFLOPS102,4 TFLOPS
Peak BF16 Vector?383 TFLOPS133.8 TFLOPS102,4 TFLOPS
Peak FP32 Vector52 TFLOPS47.9 TFLOPS67 TFLOPS51 TFLOPS
Peak FP64 Vector52 TFLOPS47,9 TFLOPS34 TFLOPS26 TFLOPS
Peak INT8 Tensor1678 TOPS?1979 TOPS | 3958 TOPS*1513 TOPS | 3026 TOPS*
Peak FP16 Tensor839 TFLOPS?989 TFLOPS | 1979 TFLOPS*756 TFLOPS | 1513 TFLOPS*
Peak BF16 Tensor839 TFLOPS?989 TFLOPS | 1979 TFLOPS*756 TFLOPS | 1513 TFLOPS*
Peak FP32 Tensor419 TFLOPS95,7 TFLOPS989 TFLOPS756 TFLOPS
Peak FP64 Tensor95,7 TFLOPS67 TFLOPS51 TFLOPS

Disponibilité

Les produits Max présentés ici seront disponibles à partir de 2023. Au salon Supercomputing 22, qui se déroulera du 13 au 18 novembre, Intel présentera plus de 40 conceptions de systèmes à venir de 12 fabricants d’équipements originaux utilisant des produits de la série Max. Les participants pourront également voir des démonstrations illustrant les performances et les capacités des produits de la série Max pour toute une série d’applications d’intelligence artificielle et de calcul intensif.

Les produits de la série Max équiperont plusieurs systèmes HPC, dont le plus emblématique est le supercalculateur Aurora. Actuellement en construction à l’Argonne National Laboratory, il devrait devenir le premier supercalculateur à dépasser 2 exaflops de performance de calcul en double précision. Aurora sera également le premier à associer des GPU et des CPU de la série Max dans un seul système, avec plus de 10 000 lames, chacune contenant six GPU de la série Max et deux CPU Xeon Max. Sunspot, le système de développement de test d’Aurora, composé de 128 lames, sera accessible pour les chercheurs du programme Aurora Early Science à partir de la fin 2022.

Enfin, Intel a annoncé que la prochaine génération de GPU Max Series aurait pour nom Rialto Bridge. Lancement prévu en 2024.

Sources : Intel, Tom’s Hardware US