De ontwikkeling van kunstmatige intelligentie wordt vaak voorgesteld als een opeenvolging van krachtigere chips: meer FLOPS, meer HBM-geheugen, grotere bandbreedte en meer racks per datacenter. Maar het recente nieuws rond NVIDIA wijst op een minder zichtbare en veel ongemakkelijkere realiteit: de limieten liggen niet uitsluitend in het ontwerpen van een grotere GPU, maar vooral in het verbinden, voeden, koelen en massaal produceren ervan.
Volgens een analyse van SemiAnalysis lijkt de architectuur Kyber NVL144 van NVIDIA aanzienlijke vertraging op te lopen, met een verschuiving richting 2028. Ook zou het alternatieve ontwerp NVL72x2, dat twee racks Oberon achter elkaar plaatst om het schaalbaarheidsgebied via koper te vergroten, geannuleerd zijn. NVIDIA heeft deze informatie niet officieel bevestigd, dus beschouw het als een indicatie van supply chain en architectuur, niet als een officieel bericht.
Toch is de kern van de zaak interessant. NVIDIA presenteerde Kyber als onderdeel van haar evolutie naar rackschaal-IA-systemen. Op haar technische blog beschreef het bedrijf Kyber als een architectuur die het NVLink-schaalgebied per rack tot 144 GPU kan brengen en de basis vormt voor nog grotere systemen, zoals NVL1152, met directe optische interconnecties tussen racks.
De uitdaging ligt niet meer alleen bij de chip
De afgelopen jaren heeft NVIDIA een onoverwinnelijke voorsprong opgebouwd, niet alleen met haar GPU’s, maar met het volledige systeem: NVLink, NVSwitch, geïntegreerde racks, vloeistofkoeling, Spectrum-X- en InfiniBand-netwerken, software en een gecoördineerde keten van toeleveranciers. Hierdoor kon het infrastructuur voor AI bijna volledig als kant-en-klare bouwstenen worden verkocht, niet slechts als geïsoleerde accelerators.
Dit model werkt zolang de architectuur schaalbaar is. De echte uitdaging ontstaat wanneer honderden GPU’s als één coherent systeem moeten functioneren, met lage latentie en voldoende bandbreedte. Op dat moment worden koperbanen, connectors, midplanes, kabels, stroomverbruik en warmteafvoer het kernpunt van het product, niet slechts technische details.
Kyber NVL144 was bedoeld om dat schaalgebied verder uit te breiden. Het doel was om meer GPU’s binnen hetzelfde NVLink-veld te verbinden, zodat minder afhankelijkheid van externe langzamere netwerken nodig was voor bepaalde workloads. Vooral bij generatieve AI, voor training en inferentie van grote modellen, kan dat het verschil maken in kosten per token, GPU-optimale benutting en datacenter-efficiëntie.
De vermeende vertraging zou te wijten zijn aan de fabricage-uitdagingen van de midplane PCB, cruciaal voor de interconnectie van het systeem. Dat is geen klein probleem. In dit soort architecturen hangt de prestaties af van uiterst snelle signalen die over zeer korte fysieke afstanden bewegen. Het engineeringproces komt daardoor terug in het domein van materiaalkunde, met koper, glasvezel, hitte, toleranties, service en montage.
Rubin Ultra wordt ook herzien
Daarnaast wordt er bericht over een belangrijke koerswijziging: het vermeende afzien van het ontwerp Rubin Ultra met vier compute-dies. Tom’s Hardware vermeldde op basis van SemiAnalysis dat NVIDIA dat ambitieuzere ontwerp mogelijk heeft gecanceld vanwege fabricage-uitdagingen en in plaats daarvan kiest voor een eenvoudiger ontwerp met twee compute-dies, minder complex te fabriceren. Het medium benadrukte dat deze informatie niet officieel is en met voorzichtigheid moet worden geïnterpreteerd.
Het verschil is niet triviaal. Vier dies zouden de rekencapaciteit verdubbelen en het prestatieniveau van Rubin aanzienlijk verhogen. Verkorting naar twee dies verlaagt het risico op fabricageproblemen, maar beperkt de verwachte prestatiewinst. In de praktijk zou NVIDIA dat verlies kunnen compenseren door meer racks of systemen te verkopen. Maar de marktboodschap verandert: zelfs leiders in AI worden geconfronteerd met fysieke, verpakkings- en fabricagebeperkingen.
Dit betekent niet dat NVIDIA haar voorsprong verliest. Het zou een overdreven conclusie zijn. Het bedrijf behoudt haar dominante positie in GPU’s, software, netwerken en ecosysteem. Maar het wijst er wel op dat het voordeel kan afnemen nu de uitdaging verschuift van het hebben van de beste chip naar het bouwen van het beste volledige systeem.
Hier komen AMD, Google en de grote hyperscalers in beeld. AMD plant rack-schaaloplossingen met Instinct MI500X en AMD EPYC CPU’s in 2027, binnen een strategisch plan voor evolutie van CPU’s, GPU’s en AI-systemen. Google heeft haar achtste generatie TPU gesplitst in twee gespecialiseerde architecturen: TPU 8t voor training en TPU 8i voor inferentie, gericht op efficiëntie, schaal en taakgericht gebruik.
De kansen voor deze concurrenten liggen niet in dat NVIDIA wegvalt, maar in de mogelijkheid dat vertragingen bij NVIDIA de weg vrijmaken voor alternatieve architecturen. Als Rubin Ultra minder krachtig wordt of Kyber langer dan verwacht rijpt, kunnen klanten met extreme eisen meer kijken naar systemen gebaseerd op Ethernet, UALink, TPU of interne ontwerpen.
CPO, NPO en de strijd om de interconnecties
Een andere cruciale factor betreft de optische supply chain. Het concept CPO of co-packaged optics wordt al maanden gepresenteerd als een belangrijke oplossing voor dataverplaatsing binnen AI-fabrieken. Het idee is om de optische modules te integreren of heel dicht bij de chips te plaatsen, waarmee verliezen, energieverbruik en complexiteit worden verminderd ten opzichte van traditionele optische modules. NVIDIA gelooft dat fotonische interconnectie noodzakelijk is voor efficiënte schaalvergroting van toekomstige AI-fabrieken.
Echter, geavanceerde optische integratie brengt ook grote technische uitdagingen met zich mee: packing, testen, reparatie, thermisch beheer en toeleveringsketen. Als CPO-productie vertraagt of beperkt blijft tot kleinschalige volumes, worden opties als NPO (near-packaged optics) aantrekkelijker. NPO plaatst de optische motor dichter bij de ASIC, maar niet volledig geïntegreerd in hetzelfde pakket, wat een tussenweg biedt tussen traditionele modules en volledige CPO-integratie met minder industrieel risico en makkelijker onderhoud.
Daarom interpreteren sommige analisten het vermeende uitstel van Kyber als een positieve ontwikkeling voor de NPO-keten en een minder gunstige ontwikkeling voor CPO-toeleveranciers op korte termijn. Als de industrie behoefte heeft aan deploybare oplossingen vóórdat CPO volledig rijp is, kunnen minder radicale architecturen een korte termijn opportuniteit vormen.
Dit heeft ook gevolgen voor fabrikanten van geavanceerde PCB’s, connectors, kabels, optische modules, vloeistofkoelingsystemen, ODM-ers en geheugentoeleveranciers. Een ontwerpwijziging in een AI-rack beïnvloedt niet alleen NVIDIA, maar heeft repercussies voor bestellingen, validaties, kalenders en productiecapaciteit in de hele supply chain.
Wat staat er echt op het spel?
Het eenvoudige verhaal is dat NVIDIA struikelt. Een meer genuanceerde interpretatie is dat AI zich bevindt in een fase waar roadmap-vooruitzichten botsen met de complexiteit van grootschalige fabricage. Een exquise architectuur ontwerpen voor een keynote is één ding. Het in operationele miljoenen racks brengen, met betrouwbaarheid, beschikbaarheid, kosten en doorlooptijden, is iets heel anders.
Grotere klanten vragen niet alleen om maximale performance. Ze willen betrouwbaarheid, tijdschema’s, onderhoudsgemak, energie-efficiëntie en snelle uitrol. Als een ontwerp te complex is, moeilijk te onderhouden of afhankelijk is van een onvolwassen supply chain, zullen cloud providers kiezen voor een minder geavanceerde maar meer operationeel betrouwbare oplossing.
Volgens de circulerende analyse zou het ontwerp NVL72x2 daar last van kunnen hebben: bedoeld om het dominantiegebied via koper te vergroten, maar met een fysieke en operationele setup die minder aantrekkelijk is voor grote datacenters die al met hoge vermogens, vloeistofkoeling en beperkte fysieke ruimte werken. Elke afwijking in design kost meer in dergelijke omgevingen.
De grote vraag voor 2027 en 2028 is of NVIDIA haar systemische voordeel kan behouden terwijl ze Rubin Ultra en Kyber herstructureert, of dat AMD, Google en andere ecosystemen dit gat gebruiken om in te lopen. Het antwoord hangt niet alleen af van benchmarks, maar ook van hoeveel hardware er geproduceerd kan worden, het energieverbruik, de connectiviteit, reparatietijden en de implementatie in echte datacenters.
AI heeft de GPU bekendgemaakt. Nu wordt ook duidelijk dat de schaalbaarheid van racks even belangrijk wordt. Misschien ligt de volgende grote competitieve voorsprong niet in het chipontwerp zelf, maar in de architectuur die duizenden chips naadloos laat samenwerken zonder dat het systeem onbestuurbaar wordt.
Veelgestelde vragen
Wat is NVIDIA Kyber NVL144?
Een rack-architectuur bedoeld om het NVLink-schaalgebied uit te breiden tot 144 GPU’s voor next-gen AI-systemen. NVIDIA presenteerde het als onderdeel van de evolutie van Rubin Ultra en haar toekomstige schaalbare systemen.
Is de vertraging van Kyber officieel bevestigd door NVIDIA?
Nee. De informatie komt uit industrieel en supply chain-analyses van SemiAnalysis. NVIDIA heeft dat niet officieel bevestigd, noch de annulering van NVL72x2.
Waarom is het schaalgebied zo belangrijk?
Omdat in geavanceerde AI veel GPU’s als één systeem moeten functioneren. Hoe groter en efficiënter dat schaalgebied, des te beter modellen tussen GPU’s kunnen bewegen met lagere latentie en betere hardwarebenutting.
Wie zou kunnen profiteren als NVIDIA vertraagt?
AMD, Google TPU en andere ecosystemen kunnen aantrekkelijker worden door hun eigen rack-schaal oplossingen die snel leverbaar zijn en concurrerend blijven.
Wat is het verschil tussen CPO en NPO?
CPO integreert de optiek vrijwel in de chipverpakking, wat efficiëntie oplevert maar complexer is. NPO plaatst de optische motor dichtbij de chip, met een meer haalbaar middenweg qua fabricage en onderhoud.