AMD beweert de energie-efficiëntie van AI verviervoudigd te hebben

AMD bevestigt dat halverwege 2026 een geschatte verbetering van vier keer in energie-efficiëntie van rack-grote AI-systemen is bereikt ten opzichte van hun referentiejaar 2024. Het bedrijf ligt hiermee voor op het tussenliggende doel dat zij had geprojecteerd en behoudt haar ambitie om tegen 2030 een verbetering van 20 keer in prestatie per watt te realiseren voor AI-training en -inferentie.

De kernpunten van AMD’s energie-doelstelling in 30 seconden

  • AMD schat een verbetering van vier keer in prestatie per watt sinds 2024, terwijl het eerder verwachtte dat dit drie keer zou zijn.
  • Het doel voor 2030 is een energie-efficiëntie 20 keer hoger in rack-scale AI-systemen.
  • Het bedrijf berekent dat twee toekomstige racks een gelijkwaardige rekenkracht kunnen bieden als 570 racks uit 2024 bij een representatieve belasting.
  • Een deel van de cijfers zijn projecties en modellen van AMD; ze zijn geen concrete meetresultaten van commerciële producten uit 2030.

Energievraag is een van de belangrijkste factoren geworden bij het verder uitbreiden van datacenters voor artificiële intelligentie. Het is niet langer genoeg om krachtigere accelerators te ontwerpen: er moet ook aandacht zijn voor het voeden van GPU’s, het verplaatsen van enorme hoeveelheden data tussen geheugen en processors, het communiceren van honderden of duizenden processors, en het afvoeren van de gegenereerde warmte.

AMD benadert dit vraagstuk vanuit dat perspectief. Hun zogenaamde 20×30-doel meet niet alleen de efficiëntie van een geïsoleerde GPU, maar volledige rack-configuraties die computation, geheugen en netwerken combineren.

Het bedrijf neemt 2024 als referentiepunt en berekent jaarlijks de evolutie van de prestatie per watt van haar systemen.

De gegevens voor 2026 vereisen echter een belangrijke nuance. AMD legt uit dat de geschatte viervoudige verbetering voortkomt uit een combinatie van meetgegevens van producten en gemodelleerde schattingen in gevallen waar nog geen definitieve prestatiegegevens beschikbaar waren.

Dit moet niet worden geïnterpreteerd als een onafhankelijk benchmark die aantoont dat elk huidig AMD-systeem vier keer minder energie verbruikt voor dezelfde taak.

Het doel: 20 keer meer prestaties per watt in 2030

Het ambitieuze doel voor 2030 van AMD is aanzienlijk.

Het bedrijf streeft naar een verbeteringen van 20 keer in energie-efficiëntie op rack-niveau voor AI-training en -inferentie ten opzichte van 2024.

Volgens AMD ligt de vooruitgang tot halverwege 2026 boven de verwachte lijn. Voor dat moment had het bedrijf ongeveer drie keer verbetering voorzien, terwijl de huidige inschatting vier keer bedraagt.

Daarnaast beweert AMD dat dit tempo meer dan dubbel is van de historische trend in de industrie, gebaseerd op hun referentie.

De meest opvallende berekeningen ontstaan wanneer AMD probeert de prestatieverbetering per watt te vertalen naar datacenter-omstandigheden.

Met een representatieve AI-trainingsbelasting projecteert AMD dat ongeveer twee racks uit 2030 de rekenkracht kunnen leveren van 570 racks uit 2024.

Aan de eerste blik lijkt deze vergelijking niet compatible met slechts een 20-voudige energieverbetering, maar ze differentieert in dat wat wordt gemeten. De vermindering in aantal racks reflecteert ook de verwachte aanzienlijke toename in rekenprestatie per systeem, terwijl het 20×30-doel zich specifiek richt op prestatiewinst per energie-eenheid.

Voor dezelfde belasting schat AMD dat de elektriciteitsconsumptie met 20 keer kan worden verminderd en de koolstofintensiteit met 28 keer.

Er is ook een andere interpretatie mogelijk: dezelfde hoeveelheid energie beschikbaar houden en daardoor significanter meer werken.

In dat scenario zou AMD verwachten dat haar systemen uit 2030 20 keer meer floating point operaties per seconde (FLOPS) per watt kunnen leveren dan in 2024.

Al deze cijfers voor 2030 zijn prognoses van AMD zelf. Ze hangen af van toekomstige chips, accelerators, geheugen, netwerken, software en fabricagetechnologieën die de in hun modellen voorziene verbeteringen moeten realiseren.

Het probleem ligt tegenwoordig niet meer alleen binnen de GPU

Een van de meest interessante aspecten van AMD’s benadering is dat ze het energieverbruik niet enkel tot de GPU beperken.

In grote AI-systemen zijn er ten minste drie factoren die direct het rendement beïnvloeden: rekenkracht, geheugenbandbreedte en interconnecties.

Een GPU kan enorme rekencapaciteit hebben en toch tijd verliezen door te wachten op data.

Modellen van nu vereisen het voortdurend verplaatsen van parameters, activaties en andere data tussen geheugen en processors. Toenemende contextgrootte, zoals bij taalmodellen, zet de druk verder doordat de KV-cache groeit.

Het verplaatsen van al die data kost energie.

Daarom zijn technologieën zoals High Bandwidth Memory (HBM), grotere caches en nauwere integratie tussen geheugen en processor cruciaal. Ze zorgen niet alleen voor meer prestaties, maar ook voor het voorkomen van onnodige dataverplaatsingen.

Ook de interconnecties ondervinden dezelfde problemen.

Moderne AI-systemen verspreiden de werklasten over meerdere accelerators. Hoe groter het model en clustern, hoe belangrijker het wordt dat GPU’s, CPU’s en andere componenten razendsnel kunnen communiceren zonder dat dit energie-inefficiënt wordt of een bottleneck vormt.

AMD beschouwt daarom dat hogesnelheidsinterconnecties voor scale-up systemen een essentiële bouwsteen zijn om haar doel voor 2030 te bereiken.

CPU, GPU, geheugen, netwerk, software en koeling: een geïntegreerd probleem

Deze aanpak weerspiegelt een bredere verandering in AI-infrastructuur.

Voorheen kon de systeenefficiëntie vooral worden beoordeeld door te kijken naar CPU en GPU, vaak los van elkaar. Nu, met complete racks voor AI, is die benadering minder geldig.

De uiteindelijke efficiëntie hangt af van de samenwerking tussen CPU, GPU, geheugen, interconnects, netwerk, opslag, software, stroomvoorziening en koeling.

AMD spreekt hierover van een uniforme systeongenese, waarbij alle componenten gezamenlijk worden ontworpen en geoptimaliseerd.

Nieuwe fabricagetechnologieën kunnen meer transistors mogelijk maken en de prestatie per watt verbeteren. GPU-architecturen kunnen hiervan profiteren en een groter bandbreedte-geheugen houdt de rekenunits beter bezig. Snellere interconnects verminderen de tijd die nodig is om data tussen componenten te verplaatsen.

Software vormt het sluitstuk van deze keten.

AMD wijst op ROCm, haar softwareplatform voor GPU’s, als een belangrijk onderdeel van de strategie. Het verbeteren van compilers, bibliotheken en de uitvoering van modellen kan het gebruik van hardware efficiënter maken zonder dat daarvoor het energieverbruik evenredig toeneemt.

In inferentietoepassingen vertaalt dit zich direct economisch: de energie die nodig is per gegenereerd token.

Voor diensten die miljoenen verzoeken verwerken, kunnen kleine verbeteringen hierin leiden tot aanzienlijke besparingen in energie en operationele kosten.

Meer prestaties binnen een vast elektriciteitsnet dat niet evenredig groeit

Het AMD-doel komt op het moment dat grote AI-datacenters hun energiebehoefte snel verhogen.

Voor operators is het niet eenvoudig om simpelweg meer servers te plaatsen, omdat de beschikbare energie, stroomkabels en koelsystemen beperkte mogelijkheden vormen.

Het verbeteren van de prestatie per watt maakt het mogelijk om hardware efficiënter te gebruiken met dezelfde infrastructuur.

Een datacenter kan bijvoorbeeld met minder servers en minder energie dezelfde werkbelasting uitvoeren, of meer computatie realiseren binnen dezelfde energiecapaciteit.

Dat is precies waar het 20×30-doel van AMD op gericht is.

De fabrikant belooft niet dat het totale energieverbruik van AI-systemen met 95% zal dalen. Als de vraag naar AI-werkzaamheden sneller stijgt dan de efficiëntieverbeteringen, zal het energieverbruik blijven toenemen.

Wat AMD wel wil bereiken is dat elk verbruikt wattje significant meer AI-berekeningen mogelijk maakt.

De geschatte viervoudige verbetering medio 2026 wijst erop dat AMD, volgens haar eigen methodologie, sneller vooruitgaat dan het oorspronkelijke plan. Er resten nog enkele jaren om te zien of de komende generaties hardware, geheugen, interconnecties en software de doelstelling kunnen blijven waarmaken en de efficiëntie kunnen verviervoudigen ten opzichte van 2024.

Veelgestelde vragen

Hoeveel heeft AMD de energie-efficiëntie van haar AI-systemen verbeterd?

AMD schat dat halverwege 2026 een verbetering van vier keer in energie-efficiëntie op rack-niveau is bereikt ten opzichte van 2024. Het cijfer is gebaseerd op een combinatie van meetgegevens en geschatte modellen.

Wat betekent het AMD 20×30-doel?

Het bedrijf streeft ernaar om tegen 2030 een verbetering van 20 keer in AI-prestaties per watt te realiseren ten opzichte van 2024, rekening houdend met complete rack-configuraties voor training en inferentie.

Beweert AMD dat twee racks 570 huidige racks kunnen vervangen?

Dit is een projectie van AMD voor 2030, gebaseerd op een representatieve belasting en verwachte systeemprestaties. Het geeft geen directe vergelijking van reeds beschikbare hardware en is geen onafhankelijke benchmark.

Zal een 20-voudige efficiëntie het totale energieverbruik van AI verminderen?

Niet noodzakelijk. Het zorgt ervoor dat meer AI-berekeningen kunnen worden gedaan per verbruikt wattje, maar het totale energieverbruik hangt ook af van de vraaggroei naar AI-training en -inference.

Via: newsroom.amd

Scroll naar boven