AIXX Pedia › Concept technique › Mémoire HBM3e
La HBM (High Bandwidth Memory) est une forme de mémoire vidéo où les dies DRAM sont empilés verticalement et reliés au GPU par des interconnexions ultra-courtes ; le HBM3e en est la dernière évolution commercialisée. Elle répond à un même problème : à l'ère des grands modèles, la vitesse d'alimentation des cœurs de calcul ne doit pas devenir le goulot d'étranglement.
Pour une machine IA complète, la capacité mémoire détermine directement « la taille du modèle que l'on peut charger » — c'est le paramètre le plus visible de cette génération de B300 : 288 Go par carte.
| Élément | Valeur / périmètre |
|---|---|
| Capacité par carte (B300) | 288GB HBM3e |
| Total huit cartes (NVL8) | Environ 2,3 To |
| Comparaison avec la génération précédente H100 | 80GB(HBM3) |
| Comparaison avec le H200 | 141GB(HBM3e) |
Il existe une formule grossière mais efficace pour estimer l'occupation mémoire d'un modèle : poids FP8 ≈ nombre de paramètres × 1 octet. DeepSeek R1 dans sa version complète pèse 671 milliards de paramètres, soit environ 690 Go de poids FP8 — impossible sur une seule carte, mais avec 2,3 To de mémoire totale, une machine B300 NVL8 permet un déploiement mono-nœud en version intégrale, avec une large marge.
La mémoire est aussi une ligne de fracture du marché : au sein d'une même gamme, l'écart de prix entre configurations mémoire différentes (par exemple 3 To et 4 To) peut atteindre plusieurs centaines de milliers d'euros.