AIXX Pedia › Concept technique › Scale-up et Scale-out
Le scale-up (montée en puissance verticale) et le scale-out (extension horizontale) sont les deux niveaux d'architecture d'interconnexion d'un cluster IA : le scale-up, c'est l'extension « intra-rack » — les GPU sont reliés en full-mesh haute vitesse via NVLink/NVSwitch pour former un domaine (le domaine mono-domaine de 72 GPU du GB200 NVL72) ; le scale-out, c'est l'extension « inter-racks » — plusieurs racks sont reliés en un cluster plus vaste via InfiniBand ou Ethernet.
Lecture pour l'acheteur : le scale-up détermine « la vitesse de communication dans le rack » (bande passante élevée au sein du domaine NVLink, mais échelle limitée) ; le scale-out détermine « la vitesse de communication entre racks » (bande passante plus faible en InfiniBand/Ethernet, mais échelle illimitée). Le goulot d'étranglement de débit de l'entraînement des grands modèles se situe généralement au niveau du scale-out — la conception du fabric (topologie/routage/contrôle de congestion) est la compétence clé de l'intégrateur.
| Élément | Valeur / périmètre |
|---|---|
| Interconnexion Scale-up | NVLink / NVSwitch (intra-rack) |
| Interconnexion Scale-out | InfiniBand / Ethernet RoCE (inter-racks) |
| Bande passante Scale-up | 130 To/s au sein du domaine GB200 NVL72 |
| Bande passante Scale-out | ConnectX-8 : 800 G par carte |
Sur la série B300, le scale-up passe par NVLink 5 (1,8 To/s par carte, full-mesh intra-domaine) et le scale-out par ConnectX-8 (800 G, fabric inter-nœuds) — lors de l'achat de systèmes complets, les deux niveaux doivent être planifiés : la taille du domaine NVLink intra-rack détermine « combien de cartes se comportent comme une seule », tandis que la conception du fabric inter-racks détermine « l'efficacité de passage à l'échelle du cluster ».