In een stoutmoedige stap naar de toekomst van versnelde computing en generatieve kunstmatige intelligentie, heeft NVIDIA het GH200 Grace Hopperâ„¢ platform onthuld, een technologische revolutie belichaamd in de nieuwe Superchip Grace Hopper met ’s werelds eerste HBM3e processor. Ontworpen om de meest complexe generatieve AI-werklasten aan te pakken, inclusief omvangrijke taalmodellen, aanbevelingssystemen en vector-databases, belooft dit platform het landschap van de computing te transformeren.
Een Fusie van Kracht en Vermogen: Dual-Configuratie voor Uitzonderlijke Prestaties
De dual-configuratie van dit platform, dat tot 3,5 keer meer geheugencapaciteit en 3 keer meer bandbreedte biedt dan zijn voorganger, bestaat uit een enkele server uitgerust met 144 Arm Neoverse-kernen, acht petaflops van AI-prestaties en 282GB van de nieuwste HBM3e-geheugentechnologie. Deze vooruitgang vertegenwoordigt een significante sprong in verwerkingscapaciteit en gegevensopslag, en stelt een nieuwe industriestandaard.
Jensen Huangs Visie: Versnelde Compute Platforms voor de Vraag naar Generatieve AI
Jensen Huang, oprichter en CEO van NVIDIA, benadrukt de noodzaak van versnelde compute platforms met gespecialiseerde behoeften om te voldoen aan de groeiende vraag naar generatieve AI. Het GH200 Grace Hopper Superchip platform komt tegemoet aan deze eisen door uitzonderlijke geheugentechnologie te bieden, de mogelijkheid om meerdere GPU’s aan te sluiten en een serverontwerp dat gemakkelijk schaalbaar is over het hele datacenterEen datacenter of een data processing center (DPC) ….
Connectiviteit en Geheugen aan de Voorhoede: Grace Hopper Superchips en HBM3e
De Grace Hopper Superchip kan worden verbonden met aanvullende Superchips via NVIDIA NVLinkâ„¢, wat de inzet van gigantische modellen gebruikt in generatieve AI vergemakkelijkt. Deze hoog snelheid coherente technologie maakt het mogelijk voor de GPU om volledige toegang tot het geheugen van de CPU te hebben, en biedt 1.2TB aan snelle geheugencapaciteit in een dual-configuratie. Het HBM3e-geheugen, dat 50% sneller is dan het huidige HBM3, levert een gecombineerde bandbreedte van 10TB/sec, waardoor het nieuwe platform 3,5 keer grotere modellen dan de vorige versie kan draaien en de prestaties verbetert met een 3 keer snellere geheugenbandbreedte.
Adoptie en Beschikbaarheid: Een Stralende Toekomst met Grace Hopper
Leidende systeembouwers bieden reeds systemen aan op basis van de eerder aangekondigde Grace Hopper Superchip. Om brede adoptie van de technologie te stimuleren, is het volgende generatie Grace Hopper GH200 platform met HBM3e volledig compatibel met de NVIDIA MGX™ server specificatie, gepresenteerd op COMPUTEX eerder dit jaar. Met MGX kan elke systeembouwer snel en kostenefficiënt Grace Hopper toevoegen in meer dan 100 servervariaties.
Er wordt verwacht dat toonaangevende systeembouwers systemen zullen leveren gebaseerd op het platform in het tweede kwartaal van het kalenderjaar 2024.
Ontdek meer over Grace Hopper in Jensen Huangs SIGGRAPH adres, beschikbaar op aanvraag, een nieuw hoofdstuk openend in de geschiedenis van versnelde computing en generatieve AI.