La velocidad con la que Nvidia lanza nuevas generaciones de aceleradores puede dar la impresión de que una GPU de inteligencia artificial se vuelve obsoleta en pocos años. Sin embargo, la experiencia de CoreWeave indica otra tendencia. Este proveedor de infraestructura ha cerrado un acuerdo para seguir alquilando GPU Nvidia A100 hasta 2029, según explicó recientemente su director financiero, Nitin Agrawal. Para entonces, una arquitectura presentada en 2020 estará a punto de cumplir una década y podría seguir generando ingresos incluso después de estar completamente amortizada.
Resumen en 30 segundos: Las claves de la segunda vida de las GPU de IA
- CoreWeave ha asegurado capacidad basada en Nvidia A100 hasta 2029, según declaraciones recogidas por The Wall Street Journal.
- Las A100, lanzadas en 2020, aún son capaces de ejecutar numerosas cargas de entrenamiento, inferencia y computación.
- Un hardware completamente amortizado puede ser muy rentable si mantiene un nivel de utilización suficiente.
- Las nuevas generaciones ofrecen mucha más computación por megavatio, un aspecto crucial en áreas donde la electricidad es limitada.
- La vida útil económica de una GPU puede depender tanto de su eficiencia y carga de trabajo como de su antigüedad.
Esta cuestión tiene implicaciones que van mucho más allá de CoreWeave. En los últimos años, se han invertido decenas de miles de millones en aceleradores para construir infraestructura de IA. Si estas GPU conservan su utilidad económica durante ocho, nueve o más años, se modifica el cálculo sobre amortización, financiación y valor residual, desafiando la percepción de que el hardware se vuelve obsoleto rápidamente.
Las A100 son un ejemplo claro. Nvidia presentó esta arquitectura en 2020 y posteriormente fue reemplazada por generaciones como Hopper y Blackwell. Sin embargo, la existencia de hardware más rápido no implica automáticamente que las A100 hayan dejado de ser útiles.
Nvidia aún ofrece capacidades como Multi-Instance GPU (MIG), que permite dividir una A100 en hasta siete instancias independientes, útil para distribuir la carga entre tareas que no requieren toda la GPU. La versión de 80 GB también ofrece suficiente memoria para muchas aplicaciones empresariales, científicas y de inferencia.
Una GPU amortizada puede convertirse en una máquina de margen
El aspecto económico del caso CoreWeave es especialmente interesante.
Las empresas suelen depreciar sus servidores y aceleradores en sus cuentas durante varios años. Este gasto de depreciación reduce las ganancias durante la vida útil del activo.
Pero, una vez finalizado ese período, el servidor no desaparece.
Si continúa funcionando y hay clientes dispuestos a pagar por su uso, la infraestructura puede seguir generando ingresos sin soportar la misma carga de depreciación. Aunque persisten gastos como electricidad, refrigeración, red, mantenimiento y otros costes operativos, la economía del activo puede cambiar sustancialmente.
Agrawal destacó que CoreWeave ha observado periodos de utilización más largos y mejores precios de lo anticipado. Sin embargo, aún no se ha revelado cuántos están pagando los clientes por esas A100 ni qué carga específica ejecutan.
Sin datos precisos sobre el precio y la utilización, es imposible determinar con exactitud qué tan rentable es prolongar la vida útil de estas GPU.
Pero este contrato desafía una de las hipótesis tradicionales del auge en infraestructura de IA: que las GPU antiguas perderán rápidamente gran parte de su valor porque cada nueva generación será mucho más eficiente.
Una A100 no necesita competir necesariamente con una Blackwell para seguir siendo rentable.
Puede destinarse a tareas menos exigentes, inferencia, investigación, procesamiento por lotes, desarrollo, ajuste de modelos o cargas de computación de alto rendimiento donde sus características sigan siendo apropiadas.
Este escenario recuerda lo ocurrido durante décadas con los servidores tradicionales. La llegada de procesadores más rápidos no convirtió automáticamente en basura las generaciones anteriores. El hardware se desplazó hacia cargas menos demandantes o hacia mercados donde el coste era más importante que alcanzar el máximo rendimiento posible.
Es posible que la infraestructura de IA esté comenzando a desarrollar su propio ciclo de vida similar.
El límite de las GPU antiguas puede estar en el megavatio
No obstante, hay una diferencia importante respecto a los servidores tradicionales: la electricidad se está convirtiendo en uno de los recursos más escasos en la infraestructura de IA.
Este aspecto representa un problema para las GPU antiguas.
Las nuevas arquitecturas no solo procesan más rápido; también generan mucha más computación útil por unidad de energía, aunque la comparación exacta depende mucho del modelo, la precisión, el software y la configuración del sistema.
Nvidia afirma que sus sistemas Blackwell actuales ofrecen mejoras significativas frente a Hopper en determinadas cargas de inferencia. Por ejemplo, para GB300 NVL72, alcanzan hasta 50 veces más tokens por megavatio y un coste por millón de tokens hasta 35 veces menor en comparación con plataformas Hopper en escenarios específicos utilizados para esa comparación. Estas cifras, provenientes del fabricante, no deben extrapolarse a todos los contextos, pero sí muestran la dirección del diseño de la infraestructura.
Además, Hopper es una arquitectura posterior a Ampere, que es la de la A100.
Esto crea una especie de aparente contradicción.
Una A100 completamente amortizada puede ser económica desde el punto de vista financiero, pero costosa en términos energéticos.
Si un centro de datos dispone de potencia eléctrica sin usar, mantener ese hardware operando puede tener sentido. Sin embargo, si tiene un límite de capacidad, como 100 MW y una lista de clientes esperando capacidad, cada megavatio dedicado a aceleradores antiguos representa una oportunidad perdida.
Por tanto, la cuestión ya no es cuánto cuesta la GPU, sino cuánto trabajo o ingresos puede generar cada megavatio disponible.
Este cambio puede determinar la vida útil real del hardware de IA mucho más que su antigüedad física.
Una segunda vida para las GPU también transforma su financiación
Existe otra consecuencia menos evidente.
Una GPU que puede generar ingresos durante muchos años se convierte en un activo financiero diferente a uno cuyo valor se reduce rápidamente a cero.
Los proveedores de infraestructura de IA han requerido ingentes cantidades de capital para adquirir aceleradores. Parte de esa financiación se apoya en las propias GPU y en los contratos asociados.
Si se demuestra que existe un mercado para hardware con una vida útil de cinco, siete o nueve años, los financiadores consideran que el activo puede tener un valor residual potencialmente superior.
Pero no hay que exagerar esa idea.
La duración física de un acelerador no garantiza su duración económica. El hardware puede fallar, el mantenimiento aumenta con la edad y futuros modelos podrían requerir más memoria o características que hagan inviable usar generaciones anteriores.
También existe el riesgo de que el precio de alquiler caiga rápidamente.
Una A100 puede seguir funcionando en 2029, pero dejar de ser rentable si el coste para atraer clientes no cubre electricidad, espacio, refrigeración y operación.
La obsolescencia de una GPU de IA probablemente no tendrá una fecha universal.
Dependerá de una combinación de precio de la electricidad, disponibilidad de potencia, coste del espacio, fiabilidad, memoria, software, rendimiento requerido y cuánto está dispuesto a pagar el mercado por hora de GPU.
Esto puede dar lugar a una estructura de infraestructuras muy diferente a la actual.
Los centros con potencia limitada y clientes que necesitan el máximo rendimiento tenderán a concentrar las generaciones más recientes. Otras instalaciones con electricidad disponible y hardware ya amortizado podrán seguir usando aceleradores antiguos en cargas donde el coste sea más importante que la densidad de computación.
Incluso podría desarrollarse un mercado secundario especializado para servidores de IA.
La situación con las A100 de CoreWeave plantea una reflexión importante para una industria que ha planificado sus avances basándose en ciclos tecnológicos extremadamente rápidos.
La GPU más reciente será casi siempre más veloz. Pero eso no significa que la anterior carezca de valor.
En una industria limitada por el capital, mantener en operación durante más años infraestructura ya amortizada puede ser sumamente ventajoso. En una industria donde la energía eléctrica es el recurso limitante, reemplazar hardware por otros que ofrezcan mucha más computación por megavatio puede resultar inevitable.
La verdadera fecha de caducidad de una GPU quizá no esté en el chip, sino en el coste de la electricidad y en el valor de cada megavatio en el centro de datos.
Preguntas frecuentes
¿Qué es la Nvidia A100?
La A100 es una GPU para centros de datos basada en la arquitectura Ampere que Nvidia presentó en 2020. Está diseñada para inteligencia artificial y computación de alto rendimiento, disponible en versiones con 40 y 80 GB de memoria.
¿CoreWeave seguirá usando Nvidia A100 en 2029?
Según las declaraciones de su director financiero en The Wall Street Journal, CoreWeave ha firmado un acuerdo para alquilar capacidad basada en A100 hasta 2029. La compañía no ha divulgado el coste exacto de dicho contrato.
¿Por qué puede ser rentable usar una GPU antigua?
Una vez totalmente depreciada, la GPU puede seguir generando ingresos si sus costes operativos y de mantenimiento permiten ofrecerla a un precio competitivo. Además, algunas cargas no requieren la potencia de la última generación.
¿Por qué podrían retirarse GPU que aún funcionan?
Porque la electricidad y la capacidad del centro de datos hacen que usar hardware antiguo deje de ser rentable. Cuando la potencia disponible es limitada, un acelerador más moderno y eficiente por megavatio puede justificar reemplazar hardware que aún funciona así sea más antiguo.