Rubin CPX: De Nieuwe Oude Strijd van Inference in Kunstmatige Intelligentie

De inferentie is de nieuwe slagveld van kunstmatige intelligentie. Huidige modellen zijn niet langer simpele tekst- of beeldgenerators; ze ontwikkelen zich naar agentische systemen die in meerdere stappen kunnen redeneren, een persistente geheugen kunnen aanhouden en contexten van miljoenen tokens kunnen beheren. Om deze uitdaging aan te gaan, heeft NVIDIA de Rubin CPX gepresenteerd, een GPU die specifiek is ontworpen om massa-context workloads efficiënter en sneller te versnellen.

De Uitdaging van Grootschalige Inferentie

Naarmate AI in meer industrieën wordt geïntegreerd, veranderen de eisen. In softwareontwikkeling bijvoorbeeld moeten programmeringscopiloten volledige repositories, afhankelijkheden tussen bestanden en projectstructuren analyseren. In de videoverwerking vereist het genereren van lange content behouden coherentie gedurende uren aan beeldmateriaal, wat kan oplopen tot meer dan een miljoen tokens per context.

Deze lasten overschrijden de grenzen van traditionele infrastructuren, die zijn ontworpen voor relatief korte contexten. Het probleem is niet alleen computationeel; het betreft ook geheugen, netwerksnelheid en energie-efficiëntie, wat een heroverweging van de opschaling van inferentie vereist.

Gedisaggregeerde Inferentie: Scheiden om te Optimaliseren

NVIDIA stelt een architectuur voor die gebruikmaakt van gedisaggregeerde inferentie, waarbij de verwerking in twee verschillende fasen wordt opgesplitst:

• Contextfase: computationeel intensief. Het systeem moet grote hoeveelheden gegevens innemen en analyseren om de eerste output voor te bereiden.

• Generatiefase: geheugenintensief. Vereist snelle transfers en een efficiënte interconnectie om resultaten token voor token te produceren.

Door deze fasen te scheiden, kunnen middelen specifiek worden geoptimaliseerd, met meer rekenkracht voor de initiële inname en meer bandbreedte voor de voortdurende generatie. Dit brengt echter ook nieuwe complexiteit met zich mee, zoals coördinatie van key-value caches, modelgevoelig routeren en geavanceerd geheugenbeheer. Hier komt NVIDIA Dynamo in beeld, het orchestratieplatform dat deze processen synchroniseert en dat cruciaal is geweest voor recente MLPerf Inference-records.

Rubin CPX: Versnelling voor Massa-Context

Rubin CPX is de oplossing voor de knelpunt in de contextfase. Ontworpen met de Rubin-architectuur, levert de GPU:

• 30 PetaFLOPs van compute in NVFP4
• 128 GB van hoge efficiëntie GDDR7 geheugen
• Drie keer snellere acceleratie in aandachtmechanismen in vergelijking met de serie GB300 NVL72
• Natuurlijke ondersteuning voor hoge resolutie video-codering en -decodering

Dankzij deze kenmerken positioneert Rubin CPX zich als de sleutelcomponent voor hoogwaardige applicaties, van AI-softwareontwikkeling tot HD-video generatie en grootschalig onderzoek.

Vera Rubin NVL144 CPX: ExaFLOP Kracht op Schaal

De nieuwe GPU wordt niet alleen geïntroduceerd. Het maakt deel uit van het NVIDIA Vera Rubin NVL144 CPX-platform, een rack dat integreert:

• 144 Rubin CPX GPUs voor de contextfase
• 144 Rubin GPUs voor de generatiefase
• 36 Vera CPUs om de workflow te coördineren en optimaliseren

Het resultaat is een capaciteit van 8 exaFLOPs in NVFP4, met 100 TB aan hoge snelheid geheugen en 1,7 PB/s bandbreedte, alles in één rack. Deze kracht is 7,5 keer hoger dan het GB300 NVL72-platform en zet een nieuwe standaard in de industrie.

De interconnectie steunt op Quantum-X800 InfiniBand en Spectrum-X Ethernet, samen met ConnectX-9 SuperNICs, die zorgen voor lage latentie en schaalbaarheid in gedistribueerde AI-omgevingen.

Economie van Inferentie: ROI in het Centrum

Bovenop de prestaties benadrukt NVIDIA de economische impact. Volgens hun berekeningen kan een inzet gebaseerd op Rubin CPX tussen de 30 en 50 keer het rendement op investering (ROI) opleveren, met mogelijkheden om tot 5 miljard dollar aan inkomsten uit tokens te genereren met een investering van 100 miljoen in CAPEX.

Deze aanpak weerspiegelt een verschuiving in de metriek: er wordt niet alleen gekeken naar FLOPs, maar naar rendabel verwerkte tokens, een belangrijke indicator voor bedrijven die AI-genererende diensten aanbieden.

Transformerende Gebruikscases

De waarde van Rubin CPX vertaalt zich naar concrete toepassingen:

• Softwareontwikkeling: assistenten die volledige repositories, commitgeschiedenis en documentatie begrijpen zonder opnieuw te trainen.

• Videogeneratie: AI die narratieve en visuele coherentie behoudt in lange content met filmkwaliteit.

• Onderzoek en wetenschap: analyses van grote kennisbasissen, die AI-agenten in staat stelt om met uitgebreide corpora in realtime te werken.

• Autonome agenten: systemen die complexe beslissingen kunnen nemen dankzij contextueel geheugen van miljoenen.

Een Voorbereid Ecosysteem

Rubin CPX wordt volledig geïntegreerd in de NVIDIA software stack:

• TensorRT-LLM, voor het optimaliseren van inferenties van taalmodellen.
• NVIDIA Dynamo, als laag voor orchestratie en efficiëntie van middelen.
• Nemotron, een familie van multimodale modellen met geavanceerde redeneervaardigheden.
• NVIDIA AI Enterprise, dat zorgt voor productieklare uitrol in clouds, datacenters en werkstations.

Beschikbaarheid

NVIDIA verwacht dat Rubin CPX eind 2026 beschikbaar zal zijn, samen met de toenemende vraag naar lange context-inferentie en de opkomst van nieuwe generatie AI-agenten.

Conclusie

Met Rubin CPX beperkt NVIDIA zich niet tot de presentatie van weer een GPU: het stelt een nieuwe manier van denken over inferentie voor, door de context- en generatiefases te scheiden en gespecialiseerd hardware aan te bieden voor elk.

In een wereld waar AI volledige repositories moet begrijpen, lange video’s moet genereren en autonome agenten moet ondersteunen, biedt deze architectuur niet alleen kracht, maar ook efficiëntie en economische haalbaarheid.

Rubin CPX en het Vera Rubin NVL144 CPX-platform herdefiniëren de toekomst van AI, waarbij massainferentie centraal staat in het technologische en zakelijke debat.

Veelgestelde Vragen (FAQ)

Wat maakt Rubin CPX anders dan andere NVIDIA GPUs?
Rubin CPX is specifiek ontworpen voor de contextfase van inferentie, waarbij het de verwerking van lange sequenties optimaliseert en tot 3 keer meer prestaties biedt in aandacht dan eerdere generaties.

Wat is gedisaggregeerde inferentie?
Dit is een model dat de verwerking opsplitst in twee fasen — context en generatie — zodat de compute en geheugen onafhankelijk geoptimaliseerd kunnen worden om efficiëntie en latency te verbeteren.

Wat voor economische voordelen kan Rubin CPX bieden?
NVIDIA schat een ROI van 30 tot 50 keer, met mogelijke inkomsten van tot 5 miljard dollar per tokens voor elke 100 miljoen die geïnvesteerd wordt in infrastructuur.

Wanneer zal Rubin CPX beschikbaar zijn?
De GPU en het Vera Rubin NVL144 CPX-platform zullen eind 2026 beschikbaar zijn.