Sur le segment professionnel, l’offre haute performance de Nvidia s’équipe d’un GPU Hopper H100. Selon la variante (carte SMX5 ou carte PCIe), cette puce graphique embarque 16 896 cœurs CUDA ou 14 592 cœurs CUDA.
Dans les deux cas nous avons une interface mémoire 5120-bit afin d’exploiter un maximum de 80 Go de HBM3 à 3 GHz (SXM5) ou HBM2 à 2 GHz (PCIe). Les deux versions utilisent la même capacité plafonnée pour le moment à 80 Go. Nous précisons pour le moment car selon un rapport cela pourrait bientôt changer.
Nvidia envisagerait de proposer pour la version PCIe du GPU Hopper H100 un total de 120 Go de mémoire vidéo. Par contre nous n’avons pas d’information sur la nature de cette VRAM. Selon le site chinois « s-ss.cc », cette nouvelle variante avec 120 Go de VRAM s’équiperait d’une puce GH100 pleine puissance. En clair elle serait entièrement déverrouillée.
Ce choix de plus de VRAM s’explique par l’augmentation rapide des tailles et de la complexité des charges de travail HPC. D’avantage de VRAM devient nécessaire pour de meilleures performances.
| H100 (SMX5) | H100 (PCIE) | A100 (SXM4) | A100 (PCIE4) | |
| GPU | GH100 | GH100 | GA100 | GA100 |
| Finesse de gravure | 4 nm | 4 nm | 7 nm | 7 nm |
| Nombre de transistor | 80 milliards | 80 milliards | 54,2 milliards | 54,2 milliards |
| Surface matrice | 814mm2 | 814mm2 | 826mm2 | 826mm2 |
| SMs | 132 | 114 | 108 | 108 |
| TPCs | 66 | 57 | 54 | 54 |
| Cœurs CUDA FP32 | 16 896 | 14 592 | 6 912 | 6 912 |
| Cœurs CUDA FP64 | 16 896 | 14 592 | 3 456 | 3 456 |
| Core Tensors | 528 | 456 | 432 | 432 |
| Unités de texture | 528 | 456 | 432 | 432 |
| Fréquence boost | ? | ? | 1410 MHz | 1410 MHz |
| Interface mémoire | HBM3 5120 bits | HBM2e 5120 bits | HBM2e 6144 bits | HBM2e 6144 bits |
| Taille de la mémoire | Jusqu’à 80 Go HBM3 @ 3,0 Gbit/s | Jusqu’à 80 Go HBM2e @ 2,0 Gbit/s | Jusqu’à 40 Go HBM2 @ 1,6 To/s Jusqu’à 80 Go HBM2 @ 1,6 To/s | Jusqu’à 40 Go HBM2 @ 1,6 To/s Jusqu’à 80 Go HBM2 @ 2,0 To/s |
| Taille du cache L2 | 51200 Ko | 51200 Ko | 40960 Ko | 40960 Ko |
| TDP | 700 W | 350 W | 400W | 250 W |
