Micron heeft een DDR5 RDIMM-module van 512 GB bewezen die snelheden tot 9.200 MT/s kan bereiken. Deze combinatie van hoge capaciteit en snelheid richt zich op de volgende generatie servers voor kunstmatige intelligentie, databases, analytics en virtualisatie. AMD en Intel zijn al bezig met validaties voor toekomstige platformen, hoewel dit product nog niet commercieel beschikbaar is: Micron verwacht in de tweede helft van 2027 met volumoproductie te beginnen.
De kernpunten van Micron’s DDR5 van 512 GB in 30 seconden
- Micron heeft een DDR5 RDIMM van 512 GB gedemonstreerd met snelheden tot 9.200 MT/s.
- Een dual-socket server met 24 sleuven kan hiermee tot 12 TB RAM bereiken.
- Het geheugen stapelt 3D DRAM-matrices op en verbindt deze via TSV-verbindingen door het silicium heen.
- AMD en Intel valideren het module voor toekomstige serverplatformen.
- Micron beweert dat het meer dan 60% minder verbruikt dan vier equivalente modules van 128 GB en plant volumaproductie in de tweede helft van 2027.
Deze sprong is aanzienlijk, zelfs binnen de servermarkt. In mei kondigde Micron al de proefmonsters aan van DDR5 RDIMM-modules van 256 GB op 9.200 MT/s, ontwikkeld met hun DRAM 1-gamma-technologie en 3D-encapsulatie. Vier maanden later is deze capaciteit verdubbeld, terwijl de hoogste snelheid gehandhaafd blijft.
De 512 GB-capaciteit moet niet verward worden met de totale servercapaciteit. Elk module levert een halve terabyte, en met 24 sleuven kan een Micron-opstelling tot 12 TB DDR5-geheugen direct verbonden met de CPU realiseren.
Van 256 naar 512 GB zonder extra sleuven
Het vergroten van de geheugencapaciteit in een server betekent niet alleen het toevoegen van meer modules.
Processors beschikken over een bepaald aantal geheugencanalen en moederborden hebben een beperkt aantal DIMM-sleuven. Wanneer deze vol zijn, vereist verdere uitbreiding het gebruik van modules met hogere capaciteit.
Hier komt de waarde van de nieuwe Micron RDIMM’s naar voren.
| Kenmerk | Micron DDR5 RDIMM 512 GB |
|---|---|
| Capaciteit per module | 512 GB |
| Gerapporteerde snelheid | Tot 9.200 MT/s |
| Type | DDR5 RDIMM |
| Encapsulatie | 3D-stacking |
| Interconnectie | TSV (Through-Silicon Vias) |
| 24 modules | Tot 12 TB |
| Validatie | AMD en Intel |
| Volumeprecisie productie | Derde helft van 2027 |
Om deze dichtheid te bereiken, gebruikt Micron verticale stapeling van DRAM-matrices.
De 3DS (3D Stacking)-technologie plaatst meerdere dies van geheugen bovenop elkaar en verbindt ze via TSV (Through-Silicon Vias), kleine elektrische verbindingen door het silicium heen.
Het concept vertoont gelijkenissen met technieken in HBM, hoewel een DDR5 RDIMM en een HBM-stapel producttechnisch en architectonisch verschillend zijn.
HBM wordt dicht bij de accelerator geplaatst en biedt extreem hoge bandbreedte. RDIMM’s blijven functioneren als primair geheugen dat verbonden is met de geheugencontroller van de CPU, met meer flexibiliteit voor het bereiken van meerdere terabytes.
De combinatie van beide geheurgroepen kan van cruciaal belang zijn voor AI-servers.
Een GPU kan HBM gebruiken voor de meest gebruikte gegevens, terwijl CPU’s grote hoeveelheden DDR5 gebruiken voor dataverwerking, databasebeheer, cache of systeemondersteuning.
12 TB RAM in een 24-sleuvenserver
De simpele rekensom achter het aangekondigde cijfer van Micron is:
24 × 512 GB = 12.288 GB, wat commercieel wordt uitgedrukt als maximaal 12 TB DDR5.
Het voordeel is dat deze capaciteit mogelijk wordt zonder de sleuvenaantallen of fysieke omvang van de server te vergroten.
Dit is vooral relevant voor workloads die grote datasets direct in geheugen willen houden.
In-memory databases, Redis, RocksDB, Apache Spark, simulaties, virtualisatie en bepaalde AI-ladingen profiteren ervan wanneer een groter deel van de gegevens in RAM blijft.
Het onderscheid ligt in het verschil tussen geheugen en opslag.
Zelfs de snelste NVMe SSD’s hebben een veel hogere latentie dan DRAM. Bij toepassingen die voortdurend gegevens verplaatsen tussen opslag en geheugen, kost dat een aanzienlijk deel van de runtijd.
Meer RAM kan dat verkeer verminderen.
Het betekent niet automatisch dat meer geheugen de prestaties verdubbelt. Als de workload al in RAM past of de bottleneck ligt in CPU, netwerk of opslag, biedt een grotere module weinig voordeel.
De voordelen hangen af van de toepassing.
Micron stelt tot 1,4 keer betere prestaties voor bij Spark workloads
Micron liet een voorbeeld zien dat dit illustreert.
Bij analytische workloads gebaseerd op Apache Spark en Support Vector Machines (SVM), beweert het bedrijf dat de nieuwe RDIMM van 512 GB tot 1,4 keer de prestaties kan leveren ten opzichte van DDR5-sets van 256 GB.
Dit is een fabrikantgemeten resultaat op een specifieke workload en mag niet als algemene prestatieverbetering van 40% worden geïnterpreteerd.
De belangrijkste verklaring is dat er meer capaciteit is om gegevens dicht bij de processor te houden.
Micron noemt ook verbeteringen voor databases en cacheplatformen zoals RocksDB en Redis, waarbij meer geheugen werkt met grotere datasets en meer gelijktijdige operaties mogelijk maakt.
Eerder toonde Micron al soortgelijke prestaties met oudere modules. Tests met 256 GB-modules lieten aanzienlijke verminderingen van opslagverkeer zien, doordat meer gegevens in RAM konden blijven.
De focus ligt dus niet alleen op de snelheid van 9.200 MT/s.
Capaciteit kan als prestatiefactor dienen door de noodzaak te verminderen om gegevens van langzamere niveaus te halen uit opslag.
Half terabyte in een DIMM verlaagt ook het energieverbruik
De hoge dichtheid heeft nog een voordeel: er zijn minder modules nodig voor dezelfde capaciteit.
Micron beweert dat een 512 GB RDIMM meer dan 60% minder energie verbruikt dan vier modules van 128 GB, die nodig zouden zijn voor dezelfde totale capaciteit.
De vermelde vergelijking toont 16 W voor het nieuwe module tegenover 44,2 W voor vier modules van 128 GB, wat leidt tot een besparing van 28,2 W per set van 512 GB.
Op kleine schaal lijkt dat marginaal, maar in datacenters met duizenden servers is de totale besparing op energie en koeling significant.
Bovendien betekent het gebruik van één module in plaats van vier dat er ruimte vrijkomt — een duidelijke pluspunt, omdat meer geheugen bij dezelfde server kan worden ingebouwd zonder extra sleuven.
Micron had al hetzelfde principe toegepast op zijn 256 GB RDIMM. In mei kwam men overeen dat één module van die capaciteit het energieverbruik met meer dan 40% kon verminderen ten opzichte van twee 128 GB modules.
De 9.200 MT/s snelheid vereist een compatibele platformconfiguratie
Een belangrijk detail achter de snelheidsaanduiding is dat niet elk systeem deze snelheid automatisch ondersteunt.
Dat wil zeggen, dat een module met 9.200 MT/s alleen in een systeem werkt dat de snelheid ondersteunt, inclusief CPU, geheugencontroller, moederbord, firmware en systeeminstellingen.
Hierom werken AMD en Intel samen met Micron aan validatie op hun nieuwe platformen.
Intel bevestigt dat zij betrokken zijn bij het valideren van de RDIMM voor toekomstige servers. AMD bevestigt dat ze samen met Micron werken aan nieuwe platformen, maar geeft geen specifieke processor of exacte uitgiftedatum aan.
Het is dus niet juist om deze modules nu al als directe upgrades voor bestaande EPYC- of Xeon-servers te presenteren.
De validatie is nog gaande.
De 9.200 MT/s betekent ook een grote sprong ten opzichte van de momenteel in massaproductie zijnde geheugenmodules. Toen Micron in mei zijn 256 GB 1-gamma RDIMM presenteerde, schatte men dat de snelheid meer dan 40% hoger was dan de 6.400 MT/s van de referentiemodules.
AI verandert ook de geheugentoegang rond de CPU
De uitbreiding van AI-capaciteiten wordt vaak vooral toegeschreven aan GPU’s en HBM, maar beïnvloedt ook de architectuur rondom accelerators.
Servers blijven CPUs nodig hebben voor besturingssystemen, gegevensvoorbereiding, workloadcoördinatie en applicatiebeheer. Tegelijkertijd kunnen inferentie, vectordatabases, agents en analytics steeds meer standaardgeheugen vereisen.
Micron noemt specifiek grote taalmodellen (LLM), AI-agenten, real-time inferentie en processors met steeds meer cores als voorbeelden van workloads die behoefte hebben aan meer capaciteit en bandbreedte.
Ook is er een balansprobleem:
Een procesorkern kan aanzienlijk meer cores krijgen, maar deze cores hebben gegevens nodig. Als de bandbreedte per kern afneemt, kan een deel van de rekenkracht verloren gaan door wachten op data.
Daarom is er grote interesse in het vergroten van capaciteit en snelheid.
Micron ontwikkelt ook MRDIMM, een andere technologie gericht op het verhogen van bandbreedte. De huidige producten halen tot 8.800 MT/s en zijn bedoeld voor Intel Xeon-platformen.
Het nieuwe 512 GB RDIMM wil vooral een andere doelstelling realiseren: grote hoeveelheden DRAM binnen het beschikbare aantal sleuven plaatsen.
Volumepreparatie in 2027
Het Micron-rapport is een technologische demonstratie en validatiefase, geen directe marktintroductie van een product dat nu gekocht kan worden.
Het bedrijf verwacht dat de RDIMM van 512 GB in volumemassa-productie gaat in de tweede helft van 2027, afhankelijk van de behoeften van klanten.
Validaties met processorfabrikanten en serverplatformen moeten nog worden afgerond.
Deze nuance is belangrijk omdat koppen suggereren dat de 512 GB-, 9.200 MT/s- en 12 TB-configuratie al beschikbaar zou zijn.
Dat is niet het geval.
Wat Micron aankon, is dat het module kon bouwen en laten functioneren in verschillende serverplatformen. AMD en Intel zijn bij de validaties betrokken en Micron heeft een tijdlijn opgesteld voor productie.
De evolutie van 128 GB modules in 2024, via 256 GB met 1-gamma-technologie in mei 2026, tot de huidige 512 GB illustreert de snelheid waarmee datadichtheid in servers toeneemt.
AI heeft HBM tot een kerncomponent gemaakt in de halfgeleiderindustrie, maar de conventionele geheugenmarkt blijft niet stilzitten. Voor veel zakelijke workloads kan het overhouden van meerdere terabytes naast de CPU net zo belangrijk zijn als het klaarstomen van ultramobile GPU-geheugen.
Het nieuwe Micron-module brengt dat concept naar een niveau waarbij half terabyte in één DDR5-sleuf mogelijk is. Als toekomstige AMD- en Intel-platformen de 9.200 MT/s ondersteunen en de productie volgens planning verloopt, kan een standaard dual-processor server in 2027 de drempel van 12 TB DRAM doorbreken, binnen een bereik dat voorheen alleen mogelijk was met complexere configuraties.