De innovatie in kunstmatige intelligentie (AI) heeft een nieuw niveau bereikt met de aankondiging van ExaAILabs, die hun Exacluster hebben geïmplementeerd, een van de eerste industrieclusters die gebaseerd zijn op de Nvidia H200 Hopper GPU’s. Dit cluster is niet alleen een technologische mijlpaal, maar het streeft er ook naar om de manier waarop we interageren met zoekmachines te revolutioneren, met het ambitieuze doel om Google te overtreffen in het begrijpen en verwerken van complexe zoekopdrachten.
Een kijkje in het Exacluster
Het Exacluster valt op door zijn indrukwekkende kracht en gespecialiseerd ontwerp:
- Hardware: Het bestaat uit 18 servers uitgerust met elk 8 Nvidia H200 GPU’s, in totaal goed voor 144 GPU’s met 20TB aan HBM3E-geheugen (141GB per GPU). Dit ontwerp biedt een gecombineerde prestatie van 570 PetaTOPS, een cruciale capaciteit voor het trainen van geavanceerde neurale netwerken.
- Processors: 192 CPU’s met 96 kernen, waardoor in totaal 3.456 verwerkingskernen worden bereikt.
- Geheugen en opslag:
- 36TB aan DDR5-geheugen.
- 270TB aan NVMe-opslag.
- Koeling en energie-efficiëntie: Ondanks zijn kracht, gebruikt het Exacluster standaard luchtkoeling en verbruikt het 100 kW energie. Er worden slechts twee machines per rack geïnstalleerd om optimale koeling te garanderen.
Een strategische en economische investering
De totale kosten van het Exacluster bedragen $5 miljoen, wat neerkomt op ongeveer $277.777 per machine. Deze verrassend lage prijs voor een dergelijk geavanceerd systeem is mogelijk gemaakt dankzij de nauwe relatie van ExaAILabs met Nvidia, een van de belangrijkste investeerders naast Lightspeed en YCombinator.
De vroege toegang tot de H200 GPU’s benadrukt ook de bevoorrechte positie van ExaAI in de industrie, waardoor het de nieuwste technologie kan benutten voor unieke AI-projecten.
Het doel: zoekmachines transformeren
Het Exacluster zal zich wijden aan het trainen van geavanceerde neurale netwerken met één duidelijk doel: het ontwikkelen van een zoekmachine die gebruikersvragen nauwkeuriger kan begrijpen en relevantere resultaten kan bieden dan de huidige, leidende zoekmachines, inclusief Google. Deze motor is bedoeld om natuurlijke taal beter te interpreteren en complexe zoekopdrachten te beantwoorden, en herdefinieert daarmee wat we van een zoekmachine verwachten.
Impact en uitdagingen
De uitrol van het Exacluster benadrukt hoe high-performance computing (HPC) en AI convergeren om steeds complexere problemen aan te pakken. Als ExaAILabs zijn doel bereikt, zou hun zoekmachine de dynamiek in de technologie-industrie aanzienlijk kunnen veranderen en nieuwe mogelijkheden openen voor het gebruik van AI om gegevens te begrijpen en te verwerken.
De concurrentie in deze ruimte is echter fel, en de verwachtingen zijn hoog. Het vermogen van ExaAI om te innoveren en hun technologie op te schalen, zal bepalen of dit cluster de katalysator wordt voor een nieuw tijdperk in zoekmachines.
via: tom’s hardware