Arm heeft een van de grootste veranderingen in zijn geschiedenis doorgemaakt met de Arm AGI CPU, zijn eerste eigen productieprocessor ontworpen door het bedrijf zelf. Ontwikkeld in samenwerking met Meta en gericht op datacenters voor kunstmatige intelligentie, tilt deze chip Arm verder dan zijn traditionele licentieactiviteiten en plaatst het het in een markt waar het moet concurreren met dezelfde servers die gebruik maken van x86-architecturen van Intel en AMD.
De kernpunten van Arm AGI CPU in 20 seconden
- Het is de eerste eigen geproduceerde processor in meer dan 35 jaar geschiedenis van Arm.
- Het integreert tot 136 Neoverse V3-kernen en wordt vervaardigd in een 3 nm proces.
- Meta heeft als hoofdpartner deelgenomen en zal een van de eerste grote gebruikers zijn.
- Arm richt zich vooral op inferentie en IA-agenten.
- Het kan meer dan 45.000 kernen per rack bereiken in vloeistofdichte configuraties.
De zakelijke verandering is bijna net zo belangrijk als de technische specificaties. Arm bouwde een groot deel van zijn positie in de industrie door eigendomsrecht en ontwerpen te verkopen die door andere fabrikanten konden worden aangepast voor hun processoren. Qualcomm, Apple, AWS, NVIDIA en talrijke andere fabrikanten gebruiken Arm-technologieën op heel verschillende manieren.
Nu wil Arm ook silicium verkopen.
Het bedrijf blijft zijn architecturen licenseren en aanbiedt zijn Compute Subsystems (CSS), maar voegt een derde optie toe: de aankoop van een door Arm ontworpen processor die klaar is om in servers te worden geïnstalleerd.
Deze stap probeert de reikwijdte van de architectuur uit te breiden naar bedrijven die geen eigen processor kunnen ontwikkelen. Het ontwerpen van een geavanceerde chip voor datacenters vereist gespecialiseerde teams, meerdere jaren werk en een investering die miljoenen tot honderden miljoenen dollars kan bedragen.
Arm wil enkele voordelen bieden die hypercale providers behalen met gepersonaliseerde processoren, zonder dat elke operator een chip-ontwerper wordt.
Tot 136 kernen en meer dan 45.000 per rack
Arm AGI CPU is gebaseerd op Neoverse V3 en Armv9.2 en wordt vervaardigd via TSMC’s N3P 3-nanometerproces. De hoogste configuratie beschikt over 136 kernen, terwijl Arm ook varianten van 128 en 64 kernen aanbiedt.
De maximale frequentie hangt af van de configuratie. De modellen met 136 en 128 kernen bereiken tot 3,5 GHz, terwijl de 64-kernversie tot 3,7 GHz kan gaan. De processor heeft een basis TDP van 300 watt.
Deze precisie is belangrijk, omdat enkele vroege productbeschrijvingen de specificaties samenvatten als “136 kernen op 3,7 GHz”, terwijl de huidige documentatie van Arm aangeeft dat die 3,7 GHz toebehoren aan de variant met 64 kernen.
Elke processor bevat 12 DDR5-kanalen tot 8.800 MT/s, 128 MB systeemcache en 96 PCI Express 6.0-lijnen. Daarnaast beschikt het over CXL 3.0 voor uitgebreidere geheugen- en apparaatconnectiviteit.
Arm legt grote nadruk op dichtheid op rackniveau.
Een referentieserver gebruikt een 1U-ontwerp met twee knooppunten en twee processoren per blade, wat neerkomt op 272 kernen. Een traditioneel luchtgekoeld rack van 36 kW kan 30 blades huisvesten en meer dan 8.160 kernen bevatten.
Met vloeistofkoeling neemt de dichtheid aanzienlijk toe.
Een systeem ontwikkeld met Supermicro kan 336 Arm AGI CPU-processoren integreren in een rack van 200 kW, wat neerkomt op 45.696 kernen.
Arm beweert dat bepaalde configuraties meer dan het dubbele vermogen per rack kunnen bieden in vergelijking met recente x86-systemen. Deze schatting komt uit de eigen evaluaties van het bedrijf en hangt af van de gebruikte configuraties en belastingpatronen, dus mag niet worden gezien als een universeel voordeel ten opzichte van Intel- of AMD-processoren.
Het gebruik van racks als maatstaaf is niet toevallig.
De grote IA-datacenters worden steeds meer beïnvloed door elektriciteit en koeling. In dergelijke faciliteiten zijn het niet alleen de prestaties van een CPU die van belang zijn, maar ook hoeveel werk er binnen een bepaalde elektrische en fysieke ruimte kan worden geconcentreerd.
Meta duwt een processor die Arm aan de rest van de markt verkoopt
Meta heeft directe betrokkenheid gehad bij de ontwikkeling van AGI CPU.
In maart maakten beide bedrijven bekend samen te werken aan meerdere generaties processors voor datacenters. Meta zal AGI CPU gebruiken binnen haar infrastructuur en combineert het met andere componenten uit haar portfolio, waaronder haar MTIA-versnellers.
Maar de processor is niet exclusief voor Meta.
Het bedrijf gaf aan dat de ontwerp- en rack-platen worden gedeeld onder het Open Compute Project (OCP) en dat Arm de processor op de markt zal brengen voor andere klanten. OCP bevat al een referentiesysteem voor AGI CPU gericht op hoge dichtheidsinstallaties.
Deze strategie kan een marktsegment dekken dat voorheen vooral weggelegd was voor grote cloudproviders.
AWS ontwikkelt Graviton, Google heeft eigen Arm-CPU’s, en andere hypercale spelers investeren in gepersonaliseerde ontwerpen. De uitdaging is dat het ontwikkelen van zo’n processor enorme schaal vereist, buiten bereik van de meeste operators.
Arm probeert deze kennis te bundelen in een commercieel beschikbaar product.
Dat kan vooral aantrekkelijk zijn voor gespecialiseerde IA-infrastructuurproviders die hun CPU-dichtheid willen verhogen zonder eigen silicium te hoeven ontwikkelen.
Ook is er een connectie met NVIDIA.
AI-datacenters draaien niet uitsluitend op GPU’s. CPU’s verzorgen vele taken voor dataverwerking, opslag, communicatie, executor- en coördinatietaken voor versnellers.
Arm beweert dat AGI CPU naast verschillende versnellers kan functioneren binnen gestandaardiseerde infrastructuren. Het bedrijf werkt al jaren met zijn SystemReady-programma om verschillen tussen Arm-platforms te verminderen en te zorgen dat besturingssystemen en software op verschillende hardware kunnen draaien van diverse fabrikanten.
Deze compatibiliteit zal belangrijk zijn als AGI CPU een plek wil veroveren in omgevingen met NVIDIA-, AMD- of andere architectuurversnellers.
AI-agenten herhalen de rol van de CPU
De naam AGI klinkt mogelijk veelbelovend, maar de technische basis van Arm richt zich vooral op agentic AI, niet op het bereiken van algemene kunstmatige intelligentie.
Agents brengen andere werkbelasting dan grootschalige training van een model.
Een GPU kan de berekeningen uitvoeren voor het draaien van een LLM, terwijl er rond de GPU processen zijn die databases raadplegen, zoekopdrachten doen, tools gebruiken, API’s aanroepen, services coördineren en informatie voorbereiden voor nieuwe inferenties.
Veel van dat werk blijft afhankelijk van CPU’s.
Arm stelt dat de uitbreiding van agenten de behoefte aan CPU-capaciteit per gigawatt infrastructuur met meer dan een factor vier kan verhogen. Dit is een schatting van het bedrijf en hangt af van hoe agentgeoriënteerde toepassingen evolueren en welk deel van de taken uiteindelijk op CPU’s, GPU’s of andere versnellers wordt uitgevoerd.
Meta geeft al tekenen van deze trend.
Naast de samenwerking met Arm kondigde het bedrijf dit jaar een overeenkomst met AWS aan om tientallen miljoenen Graviton-kernen toe te voegen aan haar infrastructuur, juist vanwege de toenemende CPU-behoefte voor agent-leren en IA.
De markt zal dus misschien niet simpelweg een CPU-versus-GPU-oorlog worden.
De architectuur van grote IA-systemen ontwikkelt zich richting combinaties van CPU’s, GPU’s, gespecialiseerde versnellers, hoge-snelheid geheugen en netwerken die grote hoeveelheden data tussen deze componenten kunnen verplaatsen.
Voor Arm biedt dit kansen, maar ook zakelijke risico’s.
Het bedrijf verschuift van het leveren van technologie aan chipfabrikanten naar het zelf bouwen van een processor die kan concurreren met producten van enkele van haar eigen klanten.
Arm stelt dat het de drie verdienmodellen zal blijven aanbieden: eigendomsrecht, CSS en volledige processoren. Vanuit die invalshoek breidt AGI CPU de markt uit in plaats van het traditionele businessmodel te vervangen.
Hoe licentiegevers zullen reageren zodra het product klanten aantrekt, moet nog blijken.
Ook is er een fysieke beperking: de productie.
AGI CPU gebruikt het N3P-proces van TSMC, een van de meest gevraagde fabricagetechnologieën in de halfgeleiderindustrie. Arm zal moeten concurreren om wafers met andere grote ontwerpers die geavanceerde technieken van deze Taiwanees fabricagepartner gebruiken.
Dit is een nieuwe situatie voor een bedrijf dat gewend is om alleen ontwerpen te verkopen zonder zich direct zorgen te hoeven maken over grote productievolumes.
Arm moet niet alleen zorgen dat zijn architecturen goed zijn, maar ook dat er voldoende processoren worden geproduceerd, dat servers en firmware worden gecoördineerd, dat de toeleveringsketen op orde is, en dat operators van datacenters overtuigd worden dat het de moeite waard is om hun CPU te installeren.
Dat is waarschijnlijk de belangrijkste verandering achter AGI CPU.
Na meer dan drie decennia inhoudt dat, dat Arm niet alleen de architectuur levert waarop anderen chips bouwen, maar nu zelf een processor ontwikkelt en deze direct in datacenters brengt.
Veelgestelde vragen
Wat is Arm AGI CPU?
Het is de eerste door Arm ontworpen productprocesprocessor, gericht op datacenters, cloudinfrastructuur, inferentie en taken gekoppeld aan AI-agenten.
Hoeveel kernen heeft Arm AGI CPU?
Arm biedt configuraties met 136, 128 en 64 Neoverse V3-kernen. De hoogste variant met 136 kernen opereert bij een basis TDP van 300 watt.
Is Arm AGI CPU exclusief voor Meta?
Nee. Meta heeft als hoofdpartner deelgenomen aan de ontwikkeling en zal het in haar datacenters gebruiken, maar Arm commercialiseert AGI CPU ook voor andere klanten en deelt delen van de infrastructuurontwerpen via het Open Compute Project (OCP).
Zal Arm stoppen met het licenseren van haar ontwerpen?
Arm heeft dat niet aangekondigd. De strategie blijft het blijven licenseren van eigendomsrechten en CSS, en voegt nu volledige processoren toe als een nieuwe manier om haar technologie te gebruiken.