NVIDIA blijft de transformatie van kunstmatige intelligentie (AI) en high-performance computing (HPC) leiden met de introductie van hun nieuwe GPU H200 NVL PCIe, een nieuw lid van de Hopper-architectuur. Deze lancering werd aangekondigd tijdens de Supercomputing 2024-conferentie (SC24), waarbij de mogelijkheden van deze GPU om de prestaties en energie-efficiëntie in conventionele bedrijfsservers te verbeteren, werd benadrukt.
Een flexibele oplossing voor de hedendaagse datacenters
De H200 NVL is specifiek ontworpen voor organisaties die behoefte hebben aan efficiëntere en flexibelere datacenterinfrastructuren. Volgens een recent onderzoek heeft ongeveer 70% van de bedrijfsracks een capaciteit van 20 kW of minder en is afhankelijk van luchtgekoelde systemen. De H200 NVL speelt in op deze behoefte met schaalbare configuraties die integratie van één tot acht GPU’s per rack mogelijk maken, waardoor de rekenkracht wordt gemaximaliseerd zonder dat de bestaande infrastructuur hoeft te worden aangepast.
De nieuwe GPU biedt aanzienlijke verbeteringen ten opzichte van zijn voorganger, de H100 NVL, inclusief een toename van 50% in het geheugen en een verhoging van 20% in de bandbreedteBandbreedte is de maximale overdrachtscapaciteit…. Deze kenmerken stellen bedrijven in staat om uitgebreide taalmodellen (LLM’s) in slechts enkele uren af te stemmen en een tot 1,7 keer snellere prestaties in inferenties te bereiken. Voor HPC-werklasten overtreft de H200 NVL de prestaties van de H100 NVL met 30% en is 2,5 keer krachtiger dan de Ampere-generatie GPUs.
Revolutionaire prestaties met NVLink
De NVIDIA NVLink-technologie vult de mogelijkheden van de H200 NVL aan door GPU-naar-GPU-communicatie te bieden die tot 7 keer sneller is dan PCIe van de vijfde generatie. Dit vertaalt zich in superieure prestaties voor HPC-toepassingen en taken gerelateerd aan uitgebreide taalmodellen en AI-finetuning.
Bovendien wordt de H200 NVL geleverd met een vijfjarig abonnement op NVIDIA AI Enterprise, een cloud-native platform ontworpen voor de ontwikkeling en implementatie van AI in productie. Deze software omvat microservices van NVIDIA NIM, die veilige en hoogwaardige implementaties voor AI-inferentiemodellen garanderen.
Impact op meerdere industrieën
De H200 NVL is al aan het transformeren van toepassingen in diverse gebieden zoals visuele AI-agenten en chatbots voor klantenservice, handelsalgoritmen in de financiële sector, beeldanalyse in de medische sector voor het opsporen van afwijkingen, patroonherkenning in de productie en seismische modellering voor wetenschappelijke instellingen.
Bedrijven zoals Dropbox hebben de voordelen van deze technologie benadrukt voor het optimaliseren van hun diensten. Ali Zafar, vicepresident Infrastructuur van Dropbox, verklaarde: “We verkennen de H200 NVL om onze diensten te blijven verbeteren en meer waarde aan onze klanten te bieden.â€
De Universiteit van New Mexico adopteert de H200 NVL ook voor het versnellen van onderzoek op gebieden zoals bio-informatica, astrofysica, klimaatmodellering en natuurkundesimulaties. Professor Patrick Bridges, directeur van het Center for Advanced Computing van de universiteit, zei: “Deze technologie zal ons in staat stellen aan de voorhoede van wetenschappelijke en technologische vooruitgang te blijven.â€
Beschikbaarheid en wereldwijde partners
Fabrikanten zoals Dell Technologies, Hewlett Packard Enterprise, Lenovo en Supermicro zullen configuraties op basis van de H200 NVL uitbrengen. Daarnaast zullen andere merken zoals ASUS, GIGABYTE, MSI en QCT deze technologie integreren in hun platforms.
Vanaf december zal de H200 NVL beschikbaar zijn in systemen van wereldwijde partners van NVIDIA. Om de implementatie te vergemakkelijken, ontwikkelt NVIDIA een Enterprise Reference Architecture die hardware- en software-aanbevelingen en netwerkconfiguraties omvat die zijn geoptimaliseerd voor het NVIDIA Spectrum-X Ethernet-platform.
De H200 NVL en andere NVIDIA-technologieën worden tentoongesteld op de beursvloer van de SC24-conferentie, in het Georgia World Congress Center.
Transformeren van zakelijke computing
Met de H200 NVL breidt NVIDIA niet alleen de grenzen van prestaties in AI en HPC uit, maar biedt het ook bedrijven een schaalbare en efficiënte oplossing die tegemoetkomt aan de behoeften van moderne datacenters, waarmee het zijn leiderschap in de technologie-industrie bevestigt.
via: Nvidia