In de afgelopen jaren heeft bijna het hele debat over kunstmatige intelligentie zich steeds meer toegespitst op GPU’s. Logisch: training, inferentie, multimodèle, Mixture of Experts en grote contexten zijn afhankelijk van steeds krachtigere versnellingskaarten. Maar NVIDIA promoot een idee dat aandacht verdient: in het tijdperk van AI-agenten wordt de CPU weer cruciaal in de kritieke keten.
Het argument van het bedrijf met NVIDIA Vera is eenvoudig: een agent produceert niet alleen tekst. Het redeneren, tools oproepen, code uitvoeren, databases raadplegen, resultaten analyseren, testen uitvoeren, gegevens verplaatsen, uitkomsten verifiëren en de volgende stap bepalen: in elke fase kan de GPU wachten op de CPU die het omliggende werk voor het model afhandelt. En in een AI-datacenter betekent wachten geld dat niet wordt verdient.
NVIDIA definieert Vera als een nieuwe categorie CPU’s voor “maximale single-thread performance op schaal”, bedoeld voor agents en AI-fabrieken. Het gaat niet alleen om veel cores, maar om elke core snel te houden, zelfs wanneer de hele chip onder hoge belasting staat, met voldoende geheugenbandbreedte per core en voorspelbare latenties.
De agentencyclus verandert hoe je een CPU meet
Traditioneel worden datacentrum-CPU’s gekenmerkt door parallelle workloads, webdiensten, virtualisatie, databases, microservices en kosten-efficiëntie per core. Cloud-architecturen streefden jarenlang naar meer cores per socket en betere prijs/prestatie-verhouding. Die aanpak was logisch voor veel toepassingen, maar maximaliseerde niet altijd de snelheid van elke individuele stap.
De AI-agents-architectuur introduceert een ander patroon. Een agent werkt in een lus: het model beslist, de CPU voert een actie uit, het resultaat keert terug naar het model en de cyclus herbegint. Als een test langer duurt, als een sandbox traag start, als een SQL-query uitloopt of als een tool data met hoge latentie verwerkt, dan vertraagt het hele agentproces.
Meer cores maken het mogelijk om meerdere agents gelijktijdig te laten werken, maar versnellen niet de sequentiële stappen binnen een specifieke agent. Daarom benadrukt NVIDIA de prestaties van single-thread performance: niet alleen de totale doorvoer, maar vooral hoe lang elke enkele actie duurt die de volgende modelaanroep ontgrendelt.
| Fase van de agent | Gebruikelijke rol van de CPU |
|---|---|
| Tool invoking | Extern of intern tools uitvoeren |
| Codiëring | Scripting, testen, compilatie of sandboxen |
| Data | Filteren, transformeren, raadplegen en verplaatsen van informatie |
| Verificatie | Resultaten vergelijken, outputs valideren en fouten controleren |
| KV-cache en service | Geheugenbeheer, caching en ondersteuning rond inferentie |
| Orkestratie | Coördinatie van stappen, processen en aanvullende oproepen |
Dit heeft een belangrijke consequentie voor de infrastructuur: de prestaties van een agent zijn niet alleen afhankelijk van het model of de GPU, maar van het volledige systeem dat de lus ondersteunt.
Wat stelt NVIDIA voor met Vera?
Vera gebruikt 88 Olympus-kernen, ontworpen door NVIDIA, en het bedrijf beweert dat deze 50% meer instructies per cyclus leveren dan Grace. Het chip combineert deze cores met tot 1,2 TB/s geheugenbandbreedte via LPDDR5X, minder dan 40 watt geheugenvermogen en een monolithisch compute-die met 3,4 TB/s interne interconnectie. Volgens NVIDIA maakt dat ontwerp het mogelijk dat alle cores toegang hebben tot het volledige geheugen zonder interne knelpunten te veroorzaken.
In tegenstelling tot enkele recente CPU-ontwikkelingen in datacenters, waar chiplet-ontwerpen meer cores en betere kosten mogelijk maken, kunnen die wel penaliteiten opleveren voor geheugen- of communicatie-infrastructuur tussen blokken. NVIDIA noemt dat, met een beetje marketinghumor, het “chiplet-belasting”.
Het bedrijf stelt dat Vera 1,8 keer meer sustained performance per core behaalt dan x86 bij CPU-belaste workloads met een agentspecifieke uitvoering. Ook worden tests aangehaald met Perplexity, zoals het clonen van een repository en uitvoeren van een testsuite in sandboxen, waarin Vera ongeveer 1,5 keer sneller was dan x86 en tot 1,9 keer sneller een sandbox kon starten naarmate er meer gelijktijdige sandboxen werden uitgevoerd.
Het is belangrijk deze cijfers met een korreltje zout te lezen: het gaat om gegevens van NVIDIA en haar partners. Ze vervangen niet onafhankelijke tests in echte klantomgevingen met eigen modellen, tools, latenties, opslag en gebruikspatronen. Maar ze wijzen wel in een interessante richting: de agentiële AI vraagt om nieuwe maatstaven voor datacenterprestaties.
AI-fabrieken hebben niet alleen GPU’s nodig
In een AI-fabriek is de meest kostbare activa meestal de GPU. Elke bottleneck die het gebruik van de GPU beperkt, heeft directe invloed op kostenefficiëntie, responsetijden en de haalbaarheid van de infrastructuur. Als de agent teveel tijd doorbrengt wachtend op de CPU voor code-uitvoering, data-raadpleging of verwerking, dan daalt de ROI op accelerators.
Dit sluit aan bij een bredere trend: AI-belastingen zijn niet langer enkel “prompt invoeren, antwoord ontvangen”. Steeds meer toepassingen combineren modellen, agents, tools, zoeken, databases, code, sandboxen, workflows en beveiligingslagen. Inferentie wordt deel van een veel langere keten.
NVIDIA verwijst ook naar resultaten bij dataverwerking: volgens gegevens van NVIDIA zou Starburst analyses op grote schaal drie keer sneller uitvoeren dan traditionele SQL, en Redpanda zou in streaming-toepassingen tot zes keer lagere latentie laten zien ten opzichte van toonaangevende x86-servers.
Dit verklaart waarom Vera niet alleen als een CPU wordt gepresenteerd om GPU’s aan te vullen, maar als een bouwsteen voor het integreren van verschillende functies in de AI-fabriek: agents, data, sandboxen, inferentie, en reinforcement learning. Daarnaast wordt Vera gekoppeld aan de NVIDIA Vera Rubin-platform en ook verbonden met BlueField-4 STX, waarmee NVIDIA haar grip op de datacenterarchitectuur verder versterkt.
Strategisch boodschap: NVIDIA wil meer van de servervloer
Vera heeft ook een strategisch rivaliserend karakter. NVIDIA wil niet uitsluitend GPU’s verkopen, maar de volledige architectuur bepalen van de AI-fabriek: GPU, CPU, netwerk, interconnects, DPU, software, libraries, orkestratie en tools. Deze geïntegreerde aanpak kan efficiëntie opleveren en knelpunten verminderen, maar verhoogt ook de afhankelijkheid van één leverancier binnen een markt die al geconcentreerd is.
Voor grote klanten wordt het een afweging: is het de moeite waard een meer geïntegreerd platform te kiezen dat betere prestaties per agent biedt, lagere latentie en beter gebruik van GPU-capaciteit? Dat kan in veel gevallen zinvol zijn, maar kosten, beschikbaarheid, interoperabiliteit met bestaande systemen, operationele modellen, energieverbruik, koeling en onderhandelingsruimte moeten ook meegewogen worden.
De aankondiging van de toekomstige CPU Rosa, met een Rigel-kern gebaseerd op Arm v9.2, bevestigt dat Vera geen geïsoleerd experiment is. Het is onderdeel van een roadmap voor eigen CPU’s gericht op de AI-agents-omgeving. NVIDIA stelt dat Rigel meer prestaties per kern zal leveren dan Olympus, terwijl de siliconaframework gelijk blijft, met verbeteringen in instructie-uitvoering, L2-cache en geheugenbeheer.
De CPU wordt niet langer een bijzaak
Het meest interessante aan Vera is niet alleen het ontwerp, maar de verschuiving in focus. De AI-infrastructuur wordt steeds heterogener en afhankelijker van een gebalanceerde aanpak. Een bijzonder krachtige GPU kan beperkt worden door opslag, netwerk, geheugen, CPU, planning, data of software; de snelheid van een agent is de snelheid van het hele systeem.
Dat betekent dat infrastructuurbouwers nieuwe vragen moeten gaan stellen. Het gaat niet alleen om TFLOPS, GPU-geheugen of aantal accelerators per rack. Het is nodig te meten hoe snel een agent een echte taak afhandelt, hoeveel rondes dat kost, welk deel van de tijd in modelbeoordeling, tools of data verstrijkt, en waar het systeem vastloopt.
NVIDIA Vera biedt een antwoord op die evolutie: CPU’s met veel cores die elke core snel houden onder belasting. Als de agentiële tijd om wachtende seconden kost, wordt single-thread performance een onontbeerlijke variabele, geen louter architectuurdetail.
GPU’s blijven belangrijk, maar in AI-agents wordt steeds meer werk tussen modeloproepen uitgevoerd. Daar wil NVIDIA Vera plaatsen.
Veelgestelde vragen
Wat is NVIDIA Vera?
Een NVIDIA CPU voor datacenters met AI, ontworpen voor hoge prestaties per core, grote geheugenbandbreedte en workloads met meerdere sequentiële stappen.
Waarom is single-thread performance belangrijk in AI-agenten?
Omdat veel stappen afhankelijk zijn van de uitkomst van de vorige. Als een tool, test of query langer duurt, vertraagt het hele agentproces.
Vera vervangt geen GPU’s?
Inderdaad. Vera is bedoeld om samen met GPU’s te werken en CPU-gerelateerde taken zoals tools, code, data, verificatie en orkestratie te versnellen.
Wat maakt Vera anders dan traditionele datacenter-CPU’s?
NVIDIA benadrukt de combinatie van 88 Olympus-kernen, hoge prestaties per core, 1,2 TB/s geheugenbandbreedte en interne interconnecties van 3,4 TB/s.
Zijn de prestatiecijfers onafhankelijk?
De genoemde cijfers komen van NVIDIA en partners zoals Perplexity, Starburst en Redpanda. Elke organisatie zou deze moeten bevestigen met eigen workloads.
via: blogs.nvidia