SECTIONS
EDITIONS
NETWORK
AIXX Pedia L'encyclopédie du calcul intensif

AIXX Pedia › Concept technique › Mémoire HBM3e

Mémoire HBM3e

HIGH BANDWIDTH MEMORY 3E · Fiche de concept technique

Vue d'ensemble OVERVIEW

La HBM (High Bandwidth Memory) est une forme de mémoire vidéo où les dies DRAM sont empilés verticalement et reliés au GPU par des interconnexions ultra-courtes ; le HBM3e en est la dernière évolution commercialisée. Elle répond à un même problème : à l'ère des grands modèles, la vitesse d'alimentation des cœurs de calcul ne doit pas devenir le goulot d'étranglement.

Pour une machine IA complète, la capacité mémoire détermine directement « la taille du modèle que l'on peut charger » — c'est le paramètre le plus visible de cette génération de B300 : 288 Go par carte.

Chiffres clés KEY NUMBERS

ÉlémentValeur / périmètre
Capacité par carte (B300)288GB HBM3e
Total huit cartes (NVL8)Environ 2,3 To
Comparaison avec la génération précédente H10080GB(HBM3)
Comparaison avec le H200141GB(HBM3e)

Ce que cela signifie sur le B300 ON B300

Il existe une formule grossière mais efficace pour estimer l'occupation mémoire d'un modèle : poids FP8 ≈ nombre de paramètres × 1 octet. DeepSeek R1 dans sa version complète pèse 671 milliards de paramètres, soit environ 690 Go de poids FP8 — impossible sur une seule carte, mais avec 2,3 To de mémoire totale, une machine B300 NVL8 permet un déploiement mono-nœud en version intégrale, avec une large marge.

La mémoire est aussi une ligne de fracture du marché : au sein d'une même gamme, l'écart de prix entre configurations mémoire différentes (par exemple 3 To et 4 To) peut atteindre plusieurs centaines de milliers d'euros.

Limites et points de vigilance LIMITS

  • La mémoire représente le principal poste de coût d'une machine, avec une demande structurellement supérieure à l'offre ; plus la capacité augmente, plus les défis thermiques et de rendement sont importants.
  • La capacité mémoire ne fait pas la performance : la bande passante d'interconnexion, la puissance de calcul et la pile logicielle déterminent tout autant le débit réel.

Présentation vidéo VIDEO

Interconnexion NVLinkSXM / NVL8Refroidissement liquide à plaque froide / CDUFormat de précision FP8MoE mélange d'expertsPuce de commutation NVSwitchRéseau d'interconnexion InfiniBandStockage NVMeCDU de refroidissement par liquideRDMA accès direct à la mémoire distanteGPUDirectTensor CoreMIG (Multi-Instance GPU)PCIe Gen5Calcul confidentielvGPU GPU virtuelFP4 / FP6 flottants basse précisionKV Cache cache d'inférenceScale-up et Scale-outCPO optique co-packagéeNVLink FusionArchitecture modulaire MGXQuantification de modèleParallélisme de tenseursCommunications collectivesUsine à IABoucle de refroidissement liquideIndicateur d'efficacité PUETensorRT-LLMMoteur d'inférence vLLMLoRA adaptation bas rangChaîne d'approvisionnement en calculTCO coût total de possessionBenchmark de débit d'inférenceDistillation de modèleChaîne d'alimentation électriqueÉconomie des tokensPipeline de données d'entraînementStack d'optimisation d'inférenceMémoire GDDR7Famille des connecteurs d'alimentation (EPS/PCIe 8pin/12VHPWR/12V-2x6)Chronologie des contrôles à l'exportation vers la ChineGuide de validation GPU (nvidia-smi/GPU-Z)Optimisation d'inférence TensorRTExécution par graphes CUDA GraphsBibliothèque de communications collectives NCCLFormat de modèle ouvert ONNXGénéalogie des générations HBMEntraînement en précision mixteGénérations PCIeGénéalogie des formats de rackDécoder la nomenclature des GPUCircuit de GPU d'occasionComparaison refroidi par air / refroidi par liquideSanté mémoire et diagnostic de pannesMémoire HBM4Interconnexion UALinkFiche modèle B300

Références REFERENCES

  1. Site officiel NVIDIA — page produit Blackwell Ultra / HGX B300 https://www.nvidia.com/en-us/data-center/hgx/
  2. Marché et données de vente : AIXX Exchange (bande de marché de cette base)
Versions et corrections |Cette fiche est maintenue par la rédaction d'AIXX Pedia : rédaction assistée par IA, faits vérifiés à la main. Mise à jour le 2026-10-20 · version v1.0 · chaque modification est historisée et consultable.
Cette base
Politique éditorialeÀ propos de cette base (déclaration d'intérêts)le canal de corrections
Résumé de la charte éditoriale
Chaque affirmation sourcéeLes défauts obligatoirement mentionnés · Corrections publiques tracéesAucune entrée sponsorisée acceptéeZéro élément de prospection ou de vente dans les entréesDonnées de marché intégrées uniquement comme module de données
Famille AIXX
AIXX PediaAIXX ExchangeActualités AIXX
Source des données de marché : AIXX Exchange · © 2026 AIXX Pedia · Une production AIXX