NVIDIA introduce de ConnectX-8 SuperNIC op Hot Chips 2025
Tijdens het Hot Chips 2025-evenement heeft NVIDIA de ConnectX-8 SuperNIC gepresenteerd, een state-of-the-art netwerktkaart die in staat is om snelheden tot 800 GbE te behalen dankzij de PCIe Gen6-interface. In een wereld waar 400 GbE-kaarten de norm zijn, streeft NVIDIA naar onderscheid met een product dat specifiek is ontworpen voor de meest veeleisende omgevingen van AI en HPC, waar netwerken een kritieke bottleneck kunnen vormen.
Een “SuperNIC” met geïntegreerde switch
Het concept van een SuperNIC is niet nieuw in de industrie— Enfabrica gebruikte eerder al soortgelijke oplossingen met hun ACF-S— maar NVIDIA versterkt dit met unieke kenmerken:
- 48 lanes van PCIe Gen6, ondanks een standaard x16-connector.
- Geïntegreerde PCIe Gen6-switch, waardoor de noodzaak voor extra hardware om verbindingen te splitsen wegvalt.
- Compatibiliteit met zowel Spectrum-X Ethernet als Quantum-X InfiniBand, wat veelzijdigheid biedt voor verschillende soorten clusters.
Klaar voor versnelde computing
NVIDIA benadrukt dat de netwerkbehoeften voor training en inferentie van AI verschillen, en de ConnectX-8 is ontworpen om beide scenario’s te optimaliseren. In tests met RDMA bereikte de kaart 800G met verschillende berichtgroottes, hoewel essentiële grafieken voor 64KB en 128KB werden weggelaten—waarden die Broadcom benadrukte bij de lancering van hun Tomahawk Ultra.
Ecosysteem MGX en toekomstig ondersteunen
ConnectX-8 is ook geïntegreerd in de MGX PCIe Switch Board, waar NVIDIA Broadcom-chips vervangt en Gen6-connectiviteit toevoegt voor toekomstige B300 GPU’s in PCIe-formaat. Hoewel deze kaarten nog niet zijn aangekondigd, bevestigt de verwachte ondersteuning dat NVIDIA zich voorbereidt op de volgende generatie GPU’s voor servers.
Meer dan alleen bandbreedte: netwerkinformatie
Het succes van Mellanox, vóór de overname door NVIDIA, was te danken aan hun capaciteiten op het gebied van RDMA (Remote Direct Memory Access), en deze filosofie wordt voortgezet in ConnectX-8. De kaart bevat onder andere:
- PSA-pakketverwerker.
- Data Path Accelerator (DPA) op basis van RISC-V, die fungeert als gebeurtenisverwerker binnen de NIC.
- Congestiebeheer en routering via Spectrum-X Ethernet, geoptimaliseerd voor AI-loads.
Deze functies helpen de wachttijd onder belasting te verlagen en verbeteren de trainingstijden in grote clusters, cruciale aspecten voor het implementeren van geavanceerde AI-modellen.
Een stap vooruit ten opzichte van de concurrentie
Momenteel positioneert ConnectX-8 zich voorop in de markt ten opzichte van Broadcom’s “Thor” 400GbE en AMD Pollara 400GbE. Hoewel de beschikbaarheid beperkt is—vooral voor modellen zoals de C8240—biedt de NVIDIA-oplossing datacenters een snellere optie dan de huidige marktstandaard.
NVIDIA benadrukt dat door de hele stack (hardware, software en ecosysteem) te controleren, zij 800G NICs kunnen introduceren in systemen voordat server-CPU’s met native ondersteuning voor PCIe Gen6 breed beschikbaar zijn.
Conclusie
De NVIDIA ConnectX-8 SuperNIC is meer dan alleen een evolutie in snelheid; het is een cruciaal onderdeel van de strategie van het bedrijf: intelligente netwerken bieden die gelijke tred houden met de krachtigste GPU’s en de meest veeleisende AI-loads.
Met een bandbreedte van 800G, geavanceerde RDMA-mogelijkheden en verwerking binnen de NIC, vertegenwoordigt ConnectX-8 een kwalitatieve sprong in het ontwerp van infrastructuren voor AI en HPC, waardoor NVIDIA een absolute referentie wordt in de toekomst van datacenterconnectiviteit.
Veelgestelde vragen (FAQ)
Wat is een SuperNIC?
Een netwerktkaart die verder gaat dan gegevensoverdracht: het integreert verwerkingscapaciteiten, congestiebeheer en pakketverwerking om de prestaties van AI- en HPC-clusters te optimaliseren.
Welke snelheid bereikt ConnectX-8?
Het biedt connectiviteit tot 800 GbE met behulp van PCIe Gen6, wat de snelheid van huidige 400 GbE NIC’s verdubbelt.
Welke architecturen ondersteunt het?
Het is ontworpen voor gebruik met zowel Spectrum-X Ethernet als Quantum-X InfiniBand, wat de schaalbaarheid in verschillende datacenteromgevingen vergemakkelijkt.
Waarom is de geïntegreerde PCIe Gen6-switch belangrijk?
Omdat deze verbindingen kan splitsen en meerdere verbindingen binnen de kaart kan beheren zonder externe hardware, waardoor het ontwerp versimpeld en de efficiëntie verbeterd wordt.