Bij Computex 2024 heeft AMD de groeiende dynamiek van hun AMD Instinctâ„¢-versnellingslijn benadrukt tijdens de openingsrede van voorzitter en CEO, Dr. Lisa Su. AMD heeft een uitgebreide meerjaren roadmap voor de AMD Instinct-versnellers onthuld, belovend om elke jaar de leidende performance in AI en geheugencapaciteiten met elke nieuwe generatie te waarborgen.
De bijgewerkte roadmap begint met de nieuwe AMD Instinct MI325X-versneller, beschikbaar in het vierde kwartaal van 2024. Daarna zal de AMD Instinct MI350-serie in 2025 worden gelanceerd, uitgerust met de nieuwe AMD CDNAâ„¢ 4-architectuur, die tot 35 keer meer AI-inferentieprestaties zal bieden in vergelijking met de AMD Instinct MI300-serie gebaseerd op AMD CDNA 3-architectuur. Voor 2026 wordt de AMD Instinct MI400-serie verwacht, die zal zijn gebaseerd op de AMD CDNA “Next”-architectuur.
“De AMD Instinct MI300X-versnellers blijven een sterke adoptie zien door talloze partners en klanten, waaronder Microsoft Azure, Meta, Dell Technologies, HPE, Lenovo en anderen, een direct gevolg van de uitzonderlijke performance en waardepropositie van de AMD Instinct MI300X-versneller”, zegt Brad McCredie, corporate vicepresident van Data Center Accelerated Computing bij AMD. “Met onze bijgewerkte jaarlijkse productcadans zijn we onverbiddelijk in ons tempo van innovatie, door de toonaangevende capaciteiten en prestaties te leveren die de AI-industrie en onze klanten verwachten om de volgende evolutie in AI-training en -inferentie in het datacenter te stimuleren”.
Het AI software-ecosysteem van AMD rijpt
De open softwarestack AMD ROCmâ„¢ 6 blijft groeien, waarmee de AMD Instinct MI300X-versnellers indrukwekkende prestaties mogelijk maken voor enkele van de meest populaire LLM’s. In een server met acht AMD Instinct MI300X-versnellers en ROCm 6 draaiend op Meta Llama-3 70B, kunnen klanten 1,3 keer snellere AI-inferentie en token generatie behalen vergeleken met de concurrentie. Op een eenzame AMD Instinct MI300X-versneller met ROCm 6 kunnen klanten 1,2 keer snellere AI-inferentie en token generatie bereiken dan de concurrentie met Mistral-7B. AMD heeft tevens gewezen op dat Hugging Face, de grootste en meest bekende repository van AI-modellen, elke nacht 700.000 van hun meest populaire modellen aan het testen is om te garanderen dat ze onmiddellijk functioneren op de AMD Instinct MI300X-versnellers. Bovendien blijft AMD werken aan populaire AI-frameworks zoals PyTorch, TensorFlow en JAX.
AMD gaat vooruit met nieuwe versnellers en onthult de jaarlijkse roadmap van Cadence
Tijdens de keynote, heeft AMD een bijgewerkte jaarlijkse cadans onthuld voor de roadmap van AMD Instinct-versneller om te voldoen aan de groeiende vraag naar meer AI-computatie. Dit zal helpen waarborgen dat de AMD Instinct-versnellers de ontwikkeling van geavanceerde, baanbrekende AI-modellen aandrijven. De bijgewerkte jaarlijkse roadmap van AMD Instinct benadrukt:
- De nieuwe AMD Instinct MI325X-versneller, die maar liefst 288 GB aan HBM3E-geheugen zal bevatten en 6 terabytes per seconde aan geheugenbandbreedte zal bieden, zal hetzelfde universele servermoederbord standaardontwerp gebruiken dat gebruikt wordt bij de AMD Instinct MI300-serie, en zal in het algemeen beschikbaar zijn in het vierde kwartaal van 2024. De versneller zal leidende geheugencapaciteit en bandbreedte binnen de sector hebben, 2 keer en 1,3 keer beter dan de concurrentie, respectievelijk, en 1,3 keer betere rekencapaciteit hebben dan de competitie.
- Het eerste product van de AMD Instinct MI350-serie, de AMD Instinct MI350X-versneller, zal gebaseerd zijn op de AMD CDNA 4-architectuur en wordt verwacht beschikbaar te zijn in 2025. Het zal hetzelfde universele servermoederbord standaardontwerp gebruiken dat gebruikt wordt voor andere versnellers uit de MI300-serie en zal worden gefabriceerd met de verfijnde 3nm-procestechnologie, zal compatibel zijn met AI-datatypes FP4 en FP6 en zal tot 288 GB aan HBM3E-geheugen hebben.
- De AMD CDNA “Next”-architectuur, die de AMD Instinct MI400-serie komt kracht bij te zetten, wordt verwacht beschikbaar te zijn in 2026 en zal de nieuwste features en capaciteiten leveren om extra performantie en efficiëntie voor grootschalige AI-inferentie en -training te ontsluiten.
Als laatste wilde AMD benadrukken dat de vraag naar AMD Instinct MI300X-versnellers blijft groeien WITH talloze partners en klanten die de versnellers gebruiken om hun.