NVIDIA está considerando reducir la cantidad de memoria HBM prevista para Rubin Ultra, su próxima generación de aceleradores de inteligencia artificial, debido a la escasez de DRAM, los costos de la memoria y las dificultades en la fabricación de configuraciones más complejas. TrendForce confirma que la empresa estudia alternativas con configuraciones de 8 y 12 capas tanto con HBM4 como con HBM4E, aunque aún no se ha definido la especificación final. La posibilidad de utilizar menos memoria por GPU plantea también una cuestión fundamental: las cargas de IA empiezan a depender más del ancho de banda y de una jerarquía de memoria completa, en lugar de almacenar absolutamente todos los datos en HBM.
Las claves del cambio en NVIDIA Rubin Ultra en 20 segundos
- NVIDIA evalúa alternativas al 12-Hi HBM4E inicialmente planeado para Rubin Ultra.
- Opciones en análisis incluyen configuraciones HBM4E y HBM4 de 8 y 12 capas.
- TrendForce cita la escasez de DRAM, los costos y los rendimientos de fabricación como principales motivos.
- Menos capas permiten producir más pilas HBM con una cantidad similar de obleas.
- La especificación final sigue sin cerrarse.
Este cambio resulta especialmente llamativo porque Rubin Ultra había sido presentado bajo la idea opuesta: colocar enormes cantidades de memoria junto al procesador. En 2026, se habló de configuraciones de hasta 1 TB de HBM4E, pero la situación del mercado de memoria está forzando a revisar hasta qué punto es rentable seguir ampliando la capacidad.
No implica que la memoria HBM pierda importancia. Los datos disponibles apuntan en sentido contrario: la demanda continúa superando la capacidad de producción, y TrendForce calcula que los bits de HBM enviados crecerán entre un 50 % y un 60 % interanual en 2027, aún por debajo del incremento estimado en demanda.
De 12 a 8 capas para ampliar la producción de aceleradores
HBM, siglas de High Bandwidth Memory, es memoria de alto ancho de banda. Su característica principal es la utilización de varios chips de DRAM apilados verticalmente y conectados mediante vías de silicio (TSV), lo que permite ofrecer un enorme ancho de banda en un espacio relativamente compacto junto a la GPU.
No obstante, fabricar estas pilas es mucho más complejo que producir DRAM convencional.
Cuantas más capas se incorporen, mayores serán los desafíos en el proceso de fabricación, ensamblaje y validación. Un problema en alguno de los componentes puede reducir significativamente el rendimiento de producción del conjunto.
TrendForce destaca dos principales dificultades para Rubin Ultra: por un lado, que la oferta global de DRAM seguirá ajustada durante 2027, limitando las obleas disponibles para HBM en marcas como Samsung, SK hynix y Micron; por otro, que aún hay incertidumbre sobre los plazos de validación y la mejora en los rendimientos de fabricación de las configuraciones de 12 capas con HBM4E.
Durante 2025 y la primera mitad de 2026, NVIDIA utilizó una configuración 12-Hi HBM4E como referencia para Rubin Ultra. Desde el tercer trimestre, ha ampliado el análisis a opciones de 8-Hi HBM4E, 12-Hi HBM4 y 8-Hi HBM4.
La decisión final aún no ha sido anunciada por la compañía.
Reducir el número de capas tiene una ventaja clara: con una cantidad determinada de chips DRAM, se pueden producir más pilas de memoria.
Una configuración de ocho capas requiere menos dies que una de doce. Si el suministro de DRAM es limitado, esto permite fabricar más memoria para una mayor cantidad de aceleradores.
Para NVIDIA, esto representa un equilibrio entre capacidad de memoria por GPU y volumen de GPU que puede llegar al mercado.
TrendForce considera que aumentar la velocidad de entrada y salida será una prioridad en Rubin Ultra. Si HBM4E pasa de forma rápida el proceso de validación, la velocidad por pin podría incrementarse desde los 8-11,7 Gb/s actuales en Rubin hasta aproximadamente 14-16 Gb/s. Una versión optimizada de HBM4 podría alcanzar entre 11 y 12 Gb/s, según estimaciones de la consultora.
De esta forma, la memoria puede ser menor en capacidad y, a la vez, más rápida.
La IA ya no requiere almacenar toda la información en HBM
Además, existen avances técnicos que explican por qué reducir la capacidad no necesariamente tiene el impacto que habría tenido en el pasado.
Los modelos de inteligencia artificial dejan de depender exclusivamente de la HBM como único lugar donde residir toda la información necesaria para el procesamiento.
NVIDIA ha desarrollado arquitecturas en las que diferentes tipos de memoria y almacenamiento cumplen funciones específicas.
Mientras que la HBM sigue siendo la capa más rápida y cercana a la GPU, destinada a datos de uso inmediato, otros elementos pueden trasladarse a LPDDR, memoria conectada mediante CXL o almacenamiento NAND, según la carga de trabajo y la frecuencia con que se requieran.
NVIDIA ya aplica este enfoque en la gestión de memoria de contexto.
Por ejemplo, la plataforma Vera Rubin incorpora la arquitectura llamada Inference Context Memory Storage Platform, diseñada para utilizar almacenamiento flash conectado mediante BlueField-4 como extensión jerárquica durante tareas de inferencia con grandes volúmenes de contexto.
Además, la evolución del software ayuda a disminuir algunas necesidades de memoria:
- Técnicas como la cuantización permiten representar pesos de modelos con menos bits.
- Arquitecturas que reducen el tamaño del KV cache, uno de los componentes con mayor consumo durante tareas de inferencia con modelos grandes.
- Separación cada vez mayor entre preparación y decodificación, fases que pueden realizarse en recursos distintos.
Todo esto genera una jerarquía de memoria más compleja: la GPU mantiene en HBM los datos más inmediatos, mientras que información menos utilizada puede residir en capas más económicas y de mayor capacidad.
Eso no significa que disponer de más HBM deje de ser útil.
El diseño actual de Rubin ofrece 288 GB de HBM4 por GPU y hasta 22 TB/s de ancho de banda, cifras que reflejan la importancia continuada de la memoria en su arquitectura. NVIDIA destaca que el mayor ancho de banda es uno de los factores que permiten trabajar con modelos de varios billones de parámetros y ventanas de contexto muy amplias.
La clave está en que, una vez alcanzada la capacidad mínima necesaria para mantener activo el conjunto de datos, incrementar el ancho de banda puede ofrecer más rendimiento que seguir añadiendo capacidad.
Menos HBM por GPU no significa menos negocio para los fabricantes
La posible reducción de memoria en Rubin Ultra podría parecer inicialmente negativa para Samsung, SK hynix y Micron.
Pero la realidad es menos lineal.
Si reducir de 12 a 8 capas mejora la fabricación y permite producir más memoria para mayor volumen de GPU, NVIDIA podría vender más unidades.
Más aceleradores también implican más pilas HBM instaladas en total.
Por ahora, no hay señales claras de que el mercado se dirija hacia un superávit inmediato. TrendForce prevé que la demanda de DRAM siga limitada en 2027 y que los proveedores de HBM mantengan capacidad negociable durante ese período.
Por ejemplo, Micron inició en el primer trimestre de 2026 la producción en volumen de HBM4 36 GB de 12 capas para NVIDIA Vera Rubin, con velocidades superiores a 11 Gb/s por pin y más de 2,8 TB/s de ancho de banda por pila, además de muestras de HBM4 de 48 GB y 16 capas.
La industria puede fabricar pilas aún mayores, pero la pregunta clave es si es conveniente usarlas en todos los productos.
Este matiz explica por qué NVIDIA evalúa diferentes configuraciones.
Reducir HBM en Rubin Ultra no necesariamente indica que la industria ha encontrado una mejor alternativa ni que el conocido memory wall —el problema de alimentar procesadores cada vez más rápidos con datos a la velocidad necesaria— haya desaparecido.
Más bien, refleja cuánto ha llegado el coste de intentar resolverlo únicamente colocando más memoria rápida junto a cada GPU.
El análisis de la fuente original sugiere que HBM podría haber reducido la naturaleza cíclica del mercado de DRAM al absorber gran parte de su capacidad de fabricación, y que futuras arquitecturas podrían integrar más memoria y lógica en un solo conjunto. Son interpretaciones de la evolución futura, no anuncios confirmados por NVIDIA.
De momento, algo concreto es que NVIDIA está estudiando reducir la cantidad de HBM en Rubin Ultra mientras busca mantener velocidades de entrada y salida mayores.
Y no es la única.
TrendForce indica que varios proveedores de servicios en la nube también están evaluando reducir la capacidad de HBM en sus próximos ASIC de IA.
La carrera por los aceleradores puede estar entrando en una fase diferente. Hasta ahora, cada generación añadía más capacidad y ancho de banda, pero la escasez y el coste de la memoria están llevando a definir qué parte de esa capacidad aporta realmente rendimiento suficiente para justificar su gasto.
La cuestión ya no es cuánto HBM puede colocarse junto a una GPU, sino cuánta se necesita realmente allí y a qué velocidad puede recibir datos el procesador.
Preguntas frecuentes
¿NVIDIA ha decidido reducir definitivamente la memoria de Rubin Ultra?
No. TrendForce confirma que NVIDIA está evaluando varias configuraciones, incluyendo HBM4E de 8 capas y HBM4 de 8 o 12 capas, además del diseño original de 12 capas con HBM4E. La configuración definitiva aún no ha sido anunciada.
¿Por qué NVIDIA quiere usar menos HBM?
Principalmente, por la escasez prevista de DRAM en 2027 y las incertidumbres en la validación y los rendimientos de fabricación de HBM4E de 12 capas. Reducir la altura de las pilas también permite producir memoria para más GPU.
¿Es más importante la velocidad o la capacidad de la HBM?
Depende de la carga. La capacidad sigue siendo necesaria para mantener datos activos, pero las nuevas arquitecturas de IA trasladan información menos utilizada a otras capas de memoria y almacenamiento. Esto hace que el ancho de banda de la HBM, que permanece junto a la GPU, sea aún más crucial.
¿La reducción de HBM perjudicará a Samsung, SK hynix y Micron?
No necesariamente. Si las configuraciones con menos capas mejoran la fabricación y permiten vender más aceleradores, la demanda total de HBM puede seguir creciendo. TrendForce estima que los envíos de bits de HBM aumentarán entre un 50 % y un 60 % en 2027, con una oferta que aún será insuficiente frente a la demanda.
vía: Jukan05