La infraestructura de inteligencia artificial empieza a dividirse en dos modelos de adquisición muy diferentes. Thinking Machines Lab ha firmado un acuerdo de 65 millones de dólares anuales con Crusoe para ejecutar inferencia gestionada en un despliegue dedicado de NVIDIA HGX B200, mientras que Anthropic mantiene conversaciones preliminares para alquilar hasta 1 gigavatio (GW) directamente a Stream Data Centers. Esta dualidad refleja una cuestión cada vez más relevante: cuándo resulta más eficiente comprar capacidad como servicio y cuándo una compañía de IA necesita controlar una parte mayor de su infraestructura.
Las claves de la infraestructura de IA de Thinking Machines y Anthropic en 20 segundos
- Thinking Machines Lab pagará 65 millones de dólares anuales a Crusoe por inferencia gestionada.
- El despliegue utiliza sistemas NVIDIA HGX B200 y redes Quantum-2 InfiniBand.
- Anthropic está considerando alquiler de hasta 1 GW directamente a Stream Data Centers.
- El acuerdo con Anthropic aún está en negociación y su estructura no está definitiva.
- Ambas acciones muestran cómo los laboratorios de IA están segmentando cada vez más inferencia, entrenamiento, chips, centros de datos y financiación.
Este contraste es particularmente interesante porque ninguna de las dos compañías está contratando exactamente lo mismo. Thinking Machines Lab opta por un servicio dedicado de inferencia: Crusoe gestiona el clúster, mantiene la infraestructura y proporciona un punto de acceso con condiciones de servicio acordadas. Por otro lado, Anthropic, según las conversaciones filtradas por The Information, estaría explorando convertirse en inquilino directo de las instalaciones de Stream Data Centers, asumiendo un mayor control sobre la capacidad física que utiliza.
Esta diferencia es crucial porque la inferencia tiene una característica distintiva respecto al entrenamiento: una vez que un modelo está en producción, requiere capacidad informática continua para responder a las solicitudes de usuarios. Los costos dejan de centrarse solo en las grandes campañas de entrenamiento y también incluyen la operación diaria de los modelos en producción.
Thinking Machines compra la inferencia como servicio
El acuerdo anunciado por Crusoe el 23 de septiembre por 65 millones de dólares al año cubre las cargas de inferencia de producción de Thinking Machines Lab. Entre los modelos que se procesarán están los Inkling del laboratorio, así como GLM 5.2 y 5.3 y sus variantes ajustadas por la propia compañía.
La infraestructura consiste en un despliegue dedicado de NVIDIA HGX B200, conectado mediante NVIDIA Quantum-2 InfiniBand. Crusoe denomina esta configuración Tailored Deployment, una implementación especializada respaldada por un acuerdo de nivel de servicio (SLA) que la compañía gestiona directamente.
Esto altera la responsabilidad del cliente. Thinking Machines Lab no necesita encargarse de montar servidores, operar la red de aceleradores ni mantener la plataforma de inferencia. Crusoe asume esa responsabilidad y el laboratorio simplemente consume la capacidad disponible.
Además, Crusoe ha señalado que está considerando ampliar el uso del servicio para inferencia por lotes en generación de datos sintéticos, un escenario diferente al de atender solicitudes en tiempo real.
Para Crusoe, este acuerdo implica que su negocio de Managed Inference supera los 100 millones de dólares en ingresos recurrentes anuales, según su propia estimación. Este servicio lleva menos de un año en el mercado y ya muestra un crecimiento significativo.
Este modelo resulta atractivo para laboratorios que buscan capacidad dedicada y rendimiento predecible sin tener que gestionar toda la operación física y de software que implica un servicio de inferencia completo.
Anthropic explora otro camino para alcanzar el gigavatio
El movimiento de Anthropic es diferente, y por ahora debe considerarse como una negociación preliminar. The Information informó que la compañía está en conversaciones para alquilar hasta 1 GW de capacidad informática a Stream Data Centers, desarrollador de centros de datos en los que participa mayoritariamente Apollo Global Management.
La información indica que Anthropic podría convertirse en inquilino directo de estas instalaciones y que en ellas podrían usarse aceleradores de distintos proveedores. Entre las opciones están unidades tensoriales de procesamiento (TPU) diseñadas por Google y Broadcom, además de GPU de NVIDIA u otros chips de IA. Se ha mencionado además que Google podría ofrecer alguna forma de garantía financiera para el proyecto, aunque los detalles aún no están definidos.
Esta escala implica una transformación total en la naturaleza de la operación. Según estimaciones recogidas por The Information, un despliegue de 1 GW podría requerir al menos 40.000 millones de dólares de inversión. Esto implica que una operación de esta magnitud requiere no solo adquirir chips, sino también financiamiento, instalaciones, energía, redes, refrigeración y contratos a largo plazo.
Además, Anthropic ya mantiene grandes acuerdos con proveedores de infraestructura. En abril, anunció un compromiso con Amazon por más de 100.000 millones de dólares durante diez años para tecnologías de AWS y hasta 5 GW de capacidad basada en generaciones actuales y futuras de Trainium. La compañía también ha indicado que combina hardware de AWS, Google y NVIDIA en sus operaciones.
En mayo, anunció un acuerdo con SpaceX para usar más de 300 MW de capacidad en su centro de datos Colossus 1, junto con alianzas con Google, Broadcom, Microsoft y otros proveedores.
Por ello, el posible acuerdo con Stream no significa que Anthropic abandone la nube. Más bien, se enmarca en una estrategia de diversificación y mayor control directo sobre la capacidad física.
La infraestructura empieza a parecerse a una operación financiera
A medida que estas instalaciones crecen desde cientos de megavatios hasta gigavatios, la compra de capacidad de cómputo deja de ser solo una decisión técnica y se convierte en una operación financiera compleja.
Un centro de datos de IA requiere terrenos, conexión eléctrica, capacidad de generación o red, sistemas de refrigeración, servidores, aceleradores, redes de alta velocidad y financiamiento. Además, necesita contratos que aseguren la recuperación de la inversión durante años.
Por ello, se están desarrollando estructuras en las que inmobiliarias, fabricantes de chips, proveedores de infraestructura, bancos, fondos y grandes clientes de IA participan en una misma operación.
El mercado ya utiliza mecanismos financieros para distribuir ese riesgo. El Financial Times informó que empresas como NVIDIA, Broadcom y Meta emplean garantías sobre el valor residual de chips y centros de datos para respaldar préstamos relacionados con infraestructura de IA, con exposiciones crediticias que alcanzan los 300.000 millones de dólares.
Si bien estas operaciones no siguen un modelo único, comparten un problema común: la inversión inicial en capacidad de IA es enorme y necesita financiamiento previo a la generación de ingresos.
Esto explica la tendencia de dejar en manos de terceros la infraestructura física, al trasladar parte del riesgo y la inversión a estructuras financieras especializadas. Thinking Machines Lab, por ejemplo, traslada esa carga a Crusoe, pagando por un servicio de inferencia dedicado y dejando en Crusoe la responsabilidad de la infraestructura.
Por su parte, Anthropic parece avanzar hacia una participación más directa en la adquisición de capacidad física. Aunque el acuerdo con Stream todavía no está cerrado, la intención es que la compañía controle una parte significativa del hardware y la infraestructura.
La tendencia evidente es que la infraestructura de IA se está desagregando. La separación entre entrenamiento e inferencia, la diversidad de hardware, la propiedad de centros de datos por terceros y la estructuración separada de financiamiento explican cómo la flexibilidad en la adquisición de infraestructura es cada vez más relevante para los laboratorios a gran escala.
La pregunta ya no es solo cuántas GPU necesita un modelo, sino quién financia, quién opera y quién controla la infraestructura física.
Preguntas frecuentes
¿Cuánto pagará Thinking Machines Lab a Crusoe?
El acuerdo, anunciado el 23 de septiembre, asciende a 65 millones de dólares anuales para la inferencia de producción mediante Crusoe Managed Inference.
¿Qué hardware utilizará Thinking Machines Lab?
El despliegue incluirá sistemas dedicados NVIDIA HGX B200 conectados a través de NVIDIA Quantum-2 InfiniBand. Crusoe gestionará directamente todo el clúster.
¿Anthropic ya firmó el acuerdo de 1 GW con Stream Data Centers?
No. La información disponible solo indica que están en conversaciones preliminares para alquilar hasta 1 GW. La estructura, el volumen final y los hardware todavía no están cerrados.
¿Por qué Anthropic quiere mayor control sobre infraestructura?
Este posible acuerdo permitiría a Anthropic tener una relación más directa con las instalaciones y la capacidad informacional. La compañía mantiene grandes contratos con AWS, Google, NVIDIA y Microsoft, por lo que diversificar su infraestructura y controlarla directamente se alinea con su estrategia de liderazgo en capacidad y flexibilidad.