Nvidia, het toonaangevende bedrijf op het gebied van grafische technologie en processors, heeft een grote sprong voorwaarts gemaakt op het gebied van supercomputing met de introductie van de superchip Grace Hopper GH200. Deze innovatieve chip vertegenwoordigt een aanzienlijke vooruitgang in de prestaties van kunstmatige intelligentie (AI), met een indrukwekkend aantal van 200 exaflopsEen exaflop is een eenheid van maat voor supercomputing die….
De GH200 is gebaseerd op de integratie van de GPU HGX H200 met Hopper-architectuur en een Nvidia Grace CPU. Deze superchip is het resultaat van het combineren van de geavanceerde mogelijkheden van deze twee technologieën, waardoor een geïntegreerde module is ontworpen voor high-performance computing en grootschalige AI-toepassingen.
De GPU HGX H200, het hart van de GH200, wordt gekenmerkt door zijn Hopper-architectuur, die aanzienlijke prestatieverbeteringen oplevert ten opzichte van eerdere modellen. Het bevat NVIDIA H200 Tensor cores en HBM3e-geheugentechnologie, geoptimaliseerd voor het versnellen van generatieve AI-taken en grote taalmodellen. Deze GPU biedt 141 GB aan geheugen met een snelheid van 4,8 TB per seconde, waarmee de bandbreedte van het vorige model, Nvidia A100, wordt verdund.
De GH200 onderscheidt zich door zijn vermogen om de inferentiesnelheid in grote taalmodellen te verdubbelen, zoals Llama 2, ontwikkeld door Meta. Bovendien verbetert het de workloads in high-performance computing dankzij de snelle NVIDIA NVLink- en NVSwitch-interconnectietechnologieën. De configuratie van de GH200 met acht wegen biedt meer dan 32 petaflops aan FP8 deep learning computing en 1,1TB aan gecombineerd high-bandwidth memory.
Deze superchip is ontworpen voor datacenters van diverse typen, waaronder on-demand, hybride cloud en edge-opererende datacenters. De compatibiliteit met de infrastructuren van toonaangevende bedrijven in de sector zoals Amazon Web Services, Google Cloud, Microsoft Azure en Oracle Cloud breidt de toepassingsmogelijkheden uit.
De GH200 wordt al gebruikt in vooraanstaande supercomputingcentra over de hele wereld en stimuleert wetenschappelijke innovatie met zijn enorme verwerkingscapaciteit. Vroegtijdige adoptie van Grace Hopper door meer dan honderd bedrijven, organisaties en overheidsinstanties over de hele wereld benadrukt het belang en de impact van deze ontwikkeling in de huidige supercomputing.
Kortom, de Nvidia Grace Hopper GH200-superchip markeert een mijlpaal in de geschiedenis van supercomputing, en opent nieuwe mogelijkheden voor onderzoek en ontwikkeling in het veld van AI en high-performance computing.