NVIDIA gelooft dat de komende grote Bottleneck in kunstmatige intelligentie niet langer de rekenkracht zal zijn, maar de beschikbare geheugenruimte. Daarom heeft het bedrijf tijdens Future of Memory and Storage (FMS) 2026 een nieuwe strategie gepresenteerd waarmee GPU’s rechtstreeks toegang krijgen tot SSD-drives zonder tussenkomst van de CPU, met als doel de effectieve geheugencapaciteit voor steeds grotere AI-modellen en gelijktijdige agenten te vergroten.
De kernpunten van Storage-Next in 30 seconden
- NVIDIA zal de code van cuFile openen, de technologie die GPU’s direct toegang tot opslag mogelijk maakt.
- GPU’s kunnen duizenden gelijktijdige verzoeken naar SSD’s initiëren zonder afhankelijk te zijn van de CPU.
- De Storage-Next-initiatief brengt meer dan 40 bedrijven bijeen, waaronder Google, Intel, Meta, Micron, Kioxia en DDN.
- Het doel is NAND-flash te gebruiken als een nieuwe geheugencapaciteit voor AI wanneer HBM ontoereikend is.
- NVIDIA benadrukt dat een SSD HBM niet zal vervangen, maar wel zal toelaten grote contexten, caches en persistent geheugen met microseconde-latentie op te slaan.
Het voorstel komt op een moment dat HBM-geheugen een van de meest schaarse en dure componenten van de AI-infrastructuur is geworden. Modellen met steeds grotere contextvensters, inferentie met duizenden agenten en grote kennisdatabases verhogen de druk op GPU-geheugen.
De GPU wil onafhankelijk worden van de CPU voor gegevensaccess
Momenteel omvat de route wanneer een GPU informatie van een SSD nodig heeft vaak meerdere stappen.
De gegevens passeren de CPU, doorlopen verschillende lagen van het besturingssysteem en worden meerdere keren gekopieerd voordat ze uiteindelijk in het GPU-geheugen belanden.
NVIDIA streeft ernaar dit traject aanzienlijk te verkorten.
Daartoe zal de code van cuFile worden vrijgegeven, de interface die wordt gebruikt door GPUDirect Storage. Hierdoor kunnen GPU’s direct lees- en schrijfoperaties op opslag starten.
Volgens het bedrijf maakt dit het mogelijk om duizenden gelijktijdige verzoeken te beheren, gebruikmakend van de honderden duizenden threads die moderne GPU’s bieden.
Het project wordt ontwikkeld binnen XIO-SIG, een nieuwe initiatief waarvan de eerste begeleiders zullen zijn Google, Intel, Meta en NVIDIA. Het doel is een interoperabele laag te creëren die op verschillende hardware- en softwareplatforms functioneert.
NAND wordt onderdeel van de geheugencategorie
Het gaat niet om het vervangen van HBM door SSD, want de verschillen in latency en bandbreedte blijven aanzienlijk.
Wat NVIDIA voorstelt, is het gebruik van de enorme capaciteit van industriële SSD’s als een extra laag binnen de geheugencyclus.
In plaats van alle data in HBM op te slaan, kunnen toepassingen bijvoorbeeld opslaan in SSD van:
- Grote contexten
- KV-caches voor taalmodellen
- Persistent geheugen voor AI-agenten
- Vector-gebaseerde databases
- Gedeeltelijk gebruikte datasets
GPU’s zullen alleen de benodigde blokken ophalen, wat de druk op het hoofdgeheugen vermindert.
NVIDIA stelt dat dit geavanceerde toegang in microseconden zal plaatsvinden, een significant verschil ten opzichte van traditionele opslagmodellen.
SCADA: directe toegang met isolatie
Het toestaan dat een GPU rechtstreeks schrijft naar opslag brengt ook nieuwe beveiligingsuitdagingen met zich mee.
Hierom heeft NVIDIA SCADA (Scaled Accelerated Data Access) ontwikkeld.
Dit framework scheidt twee componenten duidelijk:
Aan de ene kant blijft de applicatie die snel toegang tot opslag nodig heeft buiten het vertrouwde systeemgedeelte.
Aan de andere kant configureert een privileged component vooraf welke opslagregio’s door elke workload gebruikt kunnen worden, terwijl de gebruikelijke Linux-systeembeveiligingen behouden blijven.
NVIDIA beweert dat dit ontwerp voorkomt dat applicaties vrijelijk toegang krijgen tot opslaginhoud of andere processen kunnen storen.
Storage-Next wil de toekomst van AI-opslag vormgeven
Al deze technologieën maken deel uit van Storage-Next, een initiatief geleid door NVIDIA samen met meer dan 40 fabrikanten van opslag, NAND-flash en infrastructuurplatforms, waaronder DDN, Kioxia en Micron.
Het doel is open standaarden te definiëren voor een nieuwe generatie opslag die specifiek is ontworpen voor workloads die worden versneld door GPU’s.
Binnen dit ecosysteem speelt ook NVIDIA Vera BlueField-4 STX een belangrijke rol. Deze architectuur combineert de nieuwe Vera-processors, BlueField-4 DPU’s en de beveiligingsstack DOCA om native AI-opslagsystemen te creëren.
Meer vraag naar SSD’s … en mogelijke marktdruk
Hoewel NVIDIA geen expliciete commerciële implicaties benoemt, zou deze strategie de opslagindustrie kunnen beïnvloeden.
Indien SSD’s een prominentere rol gaan spelen in AI-infrastructuren, zou de vraag zich kunnen vergroten naast de groei van datacenters gericht op generatieve modellen.
Fabrikanten zoals Kioxia, Micron, Samsung, SK hynix en Solidigm investeren al maanden in hoge-capaciteit NAND, vooral vanwege de sterke groei van de AI-markt.
Het is nog onduidelijk of dit tot directe prijsdruk zal leiden. De ontwikkeling hangt af van hoe snel deze architecturen worden adoptie en van de balans tussen aanbod en vraag naar Flash-geheugen in de komende jaren.
Wat wel vaststaat, is dat NVIDIA opslag niet langer als louter dataopslag beschouwt. In de volgende generatie AI-infrastructuren zullen SSD’s integraal deel uitmaken van de uitvoeringspaden voor modellen, waardoor de afhankelijkheid van HBM, dat nog altijd een van de grootste beperkende factoren is in de sector, afneemt.
Veelgestelde vragen
Wat wil NVIDIA bereiken met SSD’s?
Ze willen dat GPU’s rechtstreeks toegang krijgen tot opslag om SSD’s als een extra geheugenslaag te gebruiken voor AI-toepassingen.
Zullen SSD’s HBM vervangen?
Nee. NVIDIA benadrukt dat er nog steeds aanzienlijke prestatie- en latentieverschillen bestaan. Het idee is om HBM aan te vullen, niet te vervangen.
Wat is Storage-Next?
Een initiatief van NVIDIA en meer dan 40 bedrijven om open standaarden te ontwikkelen voor opslag die geoptimaliseerd is voor GPU-versnelde workloads.
Wat is SCADA?
Een door NVIDIA ontwikkeld framework dat directe GPU-toegang tot opslag mogelijk maakt, terwijl het isolatie en beveiligingsmechanismen behoudt die compatibel zijn met Linux.