De toeleveringsketen van de GB200 van NVIDIA, een rackoplossing ontworpen voor kunstmatige intelligentie (AI) en high-performance computing (HPC) werklasten, heeft nog extra tijd nodig voor optimalisatie en afstemming, volgens het laatste rapport van TrendForce. De complexiteit van de specificaties van de GB200, zoals zijn hoge thermische ontwerpprestaties (TDP) en high-speed interconnect interfaces, hebben geleid tot vertragingen in productie en distributie. Als gevolg zal het hoogtepunt van zendingen niet bereikt worden tot de periode tussen het tweede en derde kwartaal van 2025.
Hoge kracht en technische complexiteit
De GB-serie van NVIDIA, inclusief de modellen GB200 en GB300, is hoofdzakelijk gericht op grote cloud service providers (CSP’s) en secundaire datacenters, academische instellingen en nationale soevereine clouds die geavanceerde AI en HPC systemen vereisen.
Het GB200 NVL72-model wordt verwacht om de markt te domineren in 2025, goed voor tot 80% van de totale implementaties terwijl NVIDIA zijn marktuitrol versnelt. De sleutel tot de prestaties ligt in het gebruik van generatie vijf NVLink, een interconnectietechnologie dat de bandbreedte verdubbelt vergeleken met PCIe 5.0, de huidige industriestandaard.
Desalniettemin brengt de GB200 uitdagingen op het gebied van vermogen en koeling:
- De TDP van de huidige HGX racks, die de AI-servermarkt domineren, ligt tussen de 60 kW en 80 kW.
- Daarentegen heeft de GB200 NVL72 een TDP van 140 kW, wat de energie-eisen verdubbelt.
Vloeistofkoeling, een noodzakelijke behoefte
Traditionele luchtkoeling is niet toereikend om deze extreme thermische lasten te hanteren. De adoptie van vloeistofkoeling oplossingen neemt snel toe:
- Coolant Distribution Units (CDU’s): Fabrikanten verbeteren de efficiëntie met meer geoptimaliseerde koudplaatontwerpen. Huidige zij-CDU’s kunnen tussen de 60 kW en 80 kW afvoeren, maar toekomstige ontwikkelingen beloven deze capaciteit te verdubbelen of verdrievoudigen.
- In-rij vloeistofkoelsystemen: Geavanceerde ontwerpen bereiken al prestaties van meer dan 1,3 MW, met geplande verbeteringen naarmate de eisen voor rekenkracht toenemen.
Vooruitzichten voor de toeleveringsketen
Ondanks deze uitdagingen, verzekert TrendForce dat de productie van Blackwell GPU chips volgens plan vordert, hoewel zendingen in 4Q24 beperkt zullen zijn. De productie zal geleidelijk toenemen vanaf 1Q25, maar vanwege aanpassingen in de server systemen AI toeleveringsketen, zullen de eindejaarszendingen niet voldoen aan de marktverwachtingen.
Het wordt verwacht dat de toeleveringsketen halverwege 2025 geoptimaliseerd is, wat een piek in de zendingen tussen het tweede en derde kwartaal van het jaar zal toestaan.
Conclusie
De GB200 van NVIDIA vertegenwoordigt een belangrijke vooruitgang in servertechnologie voor AI en HPC, maar de implementatie presenteert unieke uitdagingen op het gebied van vermogen en koeling. De algemene adoptie van vloeistofkoeling en verbeteringen in de toeleveringsketen zullen cruciaal zijn om aan de marktvraag te voldoen. Massale zendingen zullen pas realiteit worden in de tweede helft van 2025, terwijl fabrikanten de nodige infrastructuurcapaciteiten optimaliseren om deze innovatieve oplossingen van NVIDIA te ondersteunen.