NVIDIA is begonnen met de uitrol van Spectrum-6, de nieuwste generatie Ethernet-switches voor AI-datacenters. Het systeem bereikt een totale capaciteit van 102,4 terabit per seconde (Tbps), het dubbele van de vorige generatie, en maakt deel uit van het Vera Rubin-platform waarmee het bedrijf faciliteiten wil verbinden die bestaan uit tientallen of honderden duizenden accelerators.
De kernpunten van NVIDIA Spectrum-6 in 30 seconden
- Spectrum-6 biedt 102,4 Tbps switching-capaciteit, de verdubbeling ten opzichte van het voorganger.
- CoreWeave, Microsoft, Nebius, SpaceXAI en Tesla behoren tot de eerste gebruikers.
- Het systeem combineert switches met de ConnectX-9 kaarten en Spectrum-X software.
- Ondersteunt modulaire en co-packaged optical modules, en biedt vloeistofkoeling.
- NVIDIA beweert dat haar platform tot 95% efficiëntie behoudt bij netwerken met meer dan 100.000 GPU’s.
De aankondiging onderstreept hoe het netwerk een even cruciale rol speelt als de graphics processing units (GPU’s) zelf. In een conventioneel cluster kan een server grote delen van een applicatie uitvoeren zonder constant te communiceren met duizenden andere machines. Het trainen van grote modellen en bepaalde vormen van gedistribueerde inferentie verlopen echter anders.
Accelerators wisselen continu data uit om parameters te synchroniseren, taken te verdelen en collectieve operaties uit te voeren. Als een verbinding verzadigd raakt of meer latency introduceert dan gepland, kan dat het hele systeem vertragen. Het toevoegen van meer GPU’s vertaalt niet automatisch in meer prestaties wanneer de netwerkinfrastructuur niet in staat is deze te voeden en te coördineren.
Spectrum-6 is ontworpen om dat probleem te verminderen en tegelijkertijd NVIDIA’s positie te versterken in datacentermarktsegmenten waar ze concurreren met chipfabrikanten, switchleveranciers en oplossingen gebaseerd op InfiniBand.
102,4 Tbps capaciteit voor grootschalige clusteraansluitingen
De genoemde 102,4 Tbps verwijst naar de totale switching-capaciteit van de chip of het systeem, niet naar de snelheid van één enkele verbinding. Deze nuance is belangrijk, omdat de cijfer kan worden verward met de snelheid van een enkele poort.
De aggregatiecapaciteit maakt het mogelijk om switches te bouwen met veel high-speed interfaces en meer verkeer gelijktijdig tussen servers te routeren. NVIDIA heeft in deze aankondiging niet alle commerciële configuraties gespecificeerd, maar Spectrum-6 is ontworpen voor horizontale uitbreidingsnetwerken, ook wel scale-out-netwerken genoemd, die verschillende racks en compute-domeinen binnen een AI-fabriek verbinden.
Het bedrijf bevestigt dat deze generatie de capaciteit van zijn vorige systemen verdubbelt. Deze toename weerspiegelt de groei van de clusters en de steeds grotere bandbreedtevereisten per accelerator. Naarmate GPU’s meer data verwerken, moet het netwerk gelijke tred houden om te voorkomen dat rekenkracht ongebruikt blijft.
CoreWeave, Microsoft en Nebius behoren tot de vroege cloudproviders die de Vera Rubin-infrastructuur met Spectrum-6 zullen uitrollen. NVIDIA noemt ook Tesla en SpaceXAI als organisaties die de nieuwe technologie zullen integreren.
Voorlopig betreft het nog toezeggingen en plannen die door NVIDIA zijn aangekondigd. Het bedrijf heeft niet bekendgemaakt hoeveel switches elke klant zal installeren, noch de exacte data van inzet of de bijbehorende investering.
Spectrum-X past Ethernet aan voor AI-verkeer
Ethernet is ontstaan en geëvolueerd voor het verbinden van bedrijfsnetwerken, servers, opslag en gebruikers. Hoewel het al jaren wordt toegepast in supercomputers en high-performance datacenters, brengen grootschalige AI-belastingen zeer veeleisende patronen met zich mee.
Een groot deel van dat verkeer stroomt van oost naar west, dus tussen servers binnen hetzelfde datacenter. Daarnaast kunnen veel accelerators gelijktijdig data verzenden naar andere knooppunten tijdens collectieve operaties zoals all-reduce of all-to-all. Deze situaties verhogen het risico op congestie, packetverlies en route-inefficiënties.
Spectrum-X is NVIDIA’s oplossing om Ethernet te optimaliseren voor deze scenario’s. Het is niet enkel een switch. Het platform combineert de Spectrum-6-chip, de ConnectX-9 superNIC-kaarten en software die het verkeer beheert, routes selecteert en failover afhandelt.
Volgens de fabrikant verdeelt het systeem de datastromen over beschikbare paden, voorkomt overbelaste verbindingen en herstelt gegevens nauwkeurig wanneer ze niet op tijd aankomen. Het ondersteunt diverse transportmodellen via Remote Direct Memory Access (RDMA), waarmee gegevens tussen geheugens kunnen worden overgedragen met minimale CPU-interventie.
NVIDIA beweert dat Spectrum-X tot 1,6 keer meer netwerkprestaties voor AI biedt dan conventioneel Ethernet en een tot 95% efficiëntie kan behouden bij deployments met meer dan 100.000 GPU’s. Het betreft claims van de fabrikant en werkelijke prestaties kunnen variëren afhankelijk van topologie, verkeerpatronen, software en systeemconfiguratie.
In vergelijkbare contexten beweerde NVIDIA al dat Spectrum-X effectief 95% van de prestaties van een eigen netwerk haalde, tegenover slechts 60% bij standaard Ethernet-netwerken, tijdens de presentatie van het supercomputernetwerk van xAI’s Colossus.
Co-packaged optical modules en vloeistofkoeling
Spectrum-6 zal beschikbaar zijn met modulaire optische verbindingen en co-packaged optics (CPO). Traditioneel worden optische transceivers in de switch geïnstalleerd, maar co-packaged optics plaatsen de fotonische componenten dichter bij de chip, waardoor signaalverliezen wordt verminderd en energieverbruik verbetert.
Deze architectuur wint terrein naarmate netwerksnelheden toenemen, maar brengt ook uitdagingen met zich mee, zoals onderhoud, fabricage en vervanging van componenten. Daarom biedt NVIDIA beide opties aan, en niet uitsluitend CPO.
Daarnaast ondersteunt Spectrum-6 vloeistofkoeling. In AI-clusters is de energie-intensiteit niet beperkt tot GPU’s en CPU’s; switches, netwerkkaarten en optische modules verbruiken ook veel stroom en genereren warmte. Integratie in een thermisch ontwerp maakt dichte racks mogelijk, al moet de datacenterinfrastructuur daartoe worden aangepast.
NVIDIA claimt dat haar fotonische oplossingen tot vijf keer efficiënter zijn qua energie en dat ze de gemiddelde tijd tussen storingen met tien keer kunnen verhogen in vergelijking met alternatieven — al betreffen dit fabrikantsclaims, en de daadwerkelijke prestaties hangen af van testcondities en implementatie.
Vera Rubin verbetert NVIDIA’s controle over het datacenter
Spectrum-6 maakt deel uit van Vera Rubin, het opvolgplatform van Blackwell. De architectuur combineert de Vera CPU, de Rubin GPU, NVLink 6 switch, ConnectX-9 kaarten, BlueField-4 dataverwerkingseenheden en Spectrum-6 switches.
NVIDIA streeft ernaar niet alleen accelerators te verkopen, maar ook het computationele en connectiviteitssysteem integraal te ontwerpen en te optimaliseren binnen het datacenter.
Dit geïntegreerde benadering vergemakkelijkt de implementatie van grote platformen, omdat de componenten vooraf geoptimaliseerd zijn voor compatibiliteit. Tegelijkertijd verhoogt het de afhankelijkheid van de leverancier, ondanks de inzet van standaard Ethernet, open protocollen en besturingssystemen zoals SONiC.
Het bedrijf positioneert dit als een verticale integratie die samengaat met een ecosysteem van fabrikanten en cloudproviders. In de praktijk betekent dit dat, terwijl Ethernet en open componenten kunnen worden gebruikt, veel prestatiefuncties afhangen van NVIDIA’s chip-, hardware- en softwarecombinaties.
De introductie van Spectrum-6 onderstreept dat de strijd in AI niet uitsluitend meer wordt gewonnen op basis van het aantal GPU’s, maar ook door de efficiëntie en capaciteit van het onderliggende netwerk. In grote systemen met honderdduizenden accelerators bepalen kosten per token en trainingstijd in sterke mate de operationele kosten. Het netwerk is uitgegroeid tot een fundamenteel systeemonderdeel, geen louter verbindingslaag meer.
Veelgestelde vragen
Wat is NVIDIA Spectrum-6?
Het is de nieuwste generatie Ethernet-chipsets en -systemen van NVIDIA voor grote AI-datacenters. Biedt een totale capaciteit van 102,4 Tbps en maakt deel uit van het Vera Rubin-platform.
Welke bedrijven gebruiken Spectrum-6?
NVIDIA noemt CoreWeave, Microsoft, Nebius, SpaceXAI en Tesla als eerste klanten en gebruikers. Details over de omvang van de implementaties ontbreken nog.
Vervangt Spectrum-6 InfiniBand?
Niet noodzakelijk. NVIDIA biedt zowel Spectrum-X Ethernet als Quantum InfiniBand. Deze technologieën bedienen verschillende architecturen en gebruiksvereisten.
Wanneer komt Vera Rubin beschikbaar?
NVIDIA presenteerde Vera Rubin in 2026 en begint de eerste implementaties aan te kondigen. De daadwerkelijke beschikbaarheid hangt af van het systeem, de fabrikant en de cloudprovider.