El crecimiento de la inteligencia artificial está iniciando una nueva era en los centros de datos. Ya no se trata solo de quién produce la aceleradora más potente, sino de cómo conectar decenas de miles de chips y escalar la computación más allá de un solo rack. Nvidia y Broadcom representan dos estrategias diferentes para abordar este desafío: plataformas programables y soluciones integradas verticalmente frente a chips y redes personalizadas para los grandes hiperescalares.
Nvidia busca ofrecer casi toda la infraestructura necesaria para construir una AI Factory, desde GPU y CPU hasta interconexiones, switches y software. Por otro lado, Broadcom se expande mediante aceleradores personalizados —frecuentemente denominados XPU— y tecnologías de networking diseñadas para unos pocos gigantes tecnológicos que manejan volúmenes lo suficientemente grandes para justificar sus propios diseños.
Las claves en 30 segundos
- Nvidia apuesta por una plataforma programable accesible para diversos clientes.
- Broadcom desarrolla aceleradores personalizados junto a grandes hiperescalares.
- Los ASIC/XPU pueden optimizar rendimiento, consumo y coste para cargas muy específicas.
- Las GPU mantienen mayor flexibilidad ante cambios en modelos y algoritmos.
- El networking se vuelve fundamental para el rendimiento de los grandes clústeres de IA.
- Nvidia controla buena parte de su stack con CUDA, GPU, NVLink, InfiniBand y Ethernet.
- Broadcom posee una posición fuerte en switches Ethernet y silicon personalizado.
- La próxima batalla se centra en conectar miles de aceleradores como si formaran un sistema compacto de computación.
- Los hiperescalares probablemente combinarán GPU de propósito general con aceleradores propios en lugar de apostar únicamente por una arquitectura específica.
Dos enfoques distintos para la infraestructura de IA
La diferencia entre Nvidia y Broadcom empieza en sus modelos de negocio.
Nvidia ha desarrollado un ecosistema horizontal en torno a sus GPU. Sus aceleradores pueden usar en AWS, Microsoft Azure, Google Cloud, Oracle Cloud, proveedores especializados, centros de supercomputación, nubes soberanas o infraestructuras privadas empresariales.
Pero vender GPU es solo una parte de su estrategia.
Nvidia lleva años evolucionando hacia una compañía de infraestructura integral. CUDA brinda la capa de software, mientras que tecnologías como NVLink, NVSwitch, InfiniBand y sus plataformas Ethernet posibilitan conectar cada vez más aceleradores.
Broadcom adopta un enfoque distinto.
Se ha convertido en uno de los principales actores en el desarrollo de ASIC y aceleradores personalizados para IA, trabajando directamente con algunos de los mayores operadores de infraestructura a nivel global.
En lugar de vender exactamente el mismo acelerador a miles de empresas, colabora con hiperescalares para desarrollar silicio optimizado específicamente para sus cargas de trabajo.
GPU programables versus XPU personalizados
Esta diferenciación es clave para entender la revolución.
Una GPU Nvidia es una plataforma programable.
Puede ser usada para entrenar modelos de lenguaje, realizar inferencias, trabajar en visión artificial, desarrollar modelos científicos o probar arquitecturas novedosas que aún no existían cuando se fabricó el chip.
Un ASIC está diseñado con un propósito mucho más específico.
Cuando una compañía conoce a fondo las operaciones que realizará a gran escala, puede diseñar hardware eliminando componentes innecesarios y perfeccionando otros.
El resultado potencial es una mejora sustancial en coste, eficiencia energética y rendimiento para esa carga concreta.
Por ello, los chips personalizados tienen sentido para empresas como Google, Meta o grandes desarrolladores de modelos de IA.
Cuando se despliegan cientos de miles de aceleradores, una mejora pequeña en eficiencia puede significar ahorros enormes.
La flexibilidad como ventaja de Nvidia
El principal argumento de Nvidia frente a los silicios personalizados es la rapidez con la que evoluciona la IA.
Los modelos avanzan extremadamente rápido.
Nuevas arquitecturas, técnicas de atención, formatos numéricos, sistemas mezcla-de-expertos y métodos de inferencia pueden modificar en pocos meses las necesidades computacionales.
Diseñar un ASIC requiere un ciclo mucho más prolongado.
Debe definirse la arquitectura, diseñar, validar, fabricar y desplegar el chip.
Una plataforma programable se adapta por software a cambios de este tipo.
Esta flexibilidad explica en buena medida el éxito de las GPU en IA.
Una empresa no necesita saber exactamente qué modelos ejecutará en tres años para decidirse por infraestructura Nvidia hoy.
La ventaja de los hiperescalares: conocimiento profundo de sus necesidades
Pero este argumento funciona en sentido contrario también.
Los mayores operadores cloud realizan cargas a una escala que casi ninguna otra organización puede igualar.
Cuando un hiperescalares sabe que cierta inferencia se ejecutará millones de millones de veces, optimizar específicamente el hardware resulta muy atractivo económicamente.
Google ha demostrado esto con sus TPU durante años.
Meta desarrolla sus aceleradores MTIA. AWS cuenta con Trainium e Inferentia. Microsoft trabaja en silicio propio con Maia.
Este crecimiento en silicio personalizado indica que los grandes compradores de GPU no desean depender indefinidamente de una sola arquitectura.
Aquí Broadcom ve una gran oportunidad.
La batalla ya trasciende los servidores
Además, hay otro aspecto que transforma radicalmente el mercado.
Un acelerador independiente tiene una capacidad limitada.
Los modelos más grandes requieren trabajar en cientos, miles o incluso decenas de miles de aceleradores simultáneamente.
Por ello, el rendimiento del sistema depende cada vez más de cómo se comunican estos chips.
La red deja de ser solo el medio para conectar servidores y pasa a formar parte del sistema de computación.
Aquí aparecen dos conceptos clave: scale-up y scale-out.
Scale-up: hacer que muchas GPU funcionen como un solo sistema
El scale-up consiste en, simplificando, conectar aceleradores mediante enlaces ultra rápidos y de baja latencia dentro de un dominio de computación estrechamente integrado.
Nvidia ha consolidado una posición fuerte con NVLink y NVSwitch.
Sus arquitecturas en rack permiten conectar múltiples GPU con anchos de banda elevados, haciendo que el conjunto actúe cada vez más como un gran acelerador único.
Esta estrategia se amplía con sistemas a nivel rack, donde toda la estructura inicia a convertirse en la unidad básica de computación.
Pero los grandes clústeres necesitan ir aún más allá.
Scale-out: conectar miles de aceleradores
Al conectar numerosos racks surge el concepto de networking scale-out.
Tecnologías como InfiniBand y Ethernet permiten construir redes que comunican miles de nodos.
Nvidia tiene una posición destacada gracias a la adquisición de Mellanox, que aportó tecnologías clave en networking de alto rendimiento.
No obstante, Ethernet avanza rápidamente y Broadcom es uno de sus principales proveedores de silicon.
A medida que los hiperescalares buscan crear clústeres cada vez mayores usando arquitecturas abiertas, Ethernet puede adquirir aún más protagonismo.
Broadcom busca escalar la IA a través de Ethernet
La importancia de Broadcom no se limita a sus aceleradores personalizados.
La compañía es uno de los actores principales en switching para centros de datos.
Familias de chips como Tomahawk forman parte de muchas infraestructuras cloud y facilitan construir redes Ethernet con capacidades crecientes.
La estrategia ahora es si Ethernet puede asumir una parte creciente en las comunicaciones necesarias para las gigantescas IA Factories.
Si logra esto, Broadcom podría beneficiarse sin importar quién produzca los aceleradores.
Un clúster puede usar GPU Nvidia y, al mismo tiempo, integrar tecnologías de networking basadas en silicon Broadcom.
Por ende, la relación entre ambas no es solo una competencia directa.
Nvidia busca controlar toda la cadena de valor
La estrategia de Nvidia apunta a reducir los espacios donde otros proveedores puedan intervenir.
Ya no se limita a vender el chip aislado.
Su propuesta abarca:
GPU + CPU + interconexión + networking + sistemas + software.
CUDA es probablemente lo más difícil de replicar.
Miles de aplicaciones, frameworks y herramientas están optimizadas para su ecosistema Nvidia.
A esto se suma una integración más profunda entre hardware y networking.
Esto permite a Nvidia optimizar todo el sistema en conjunto, en lugar de componentes independientes.
Para un cliente que busca desplegar infraestructura de IA rápidamente, adquirir una solución validada de extremo a extremo puede ser mucho más sencillo que integrar tecnologías de diversos proveedores.
Broadcom apuesta por la personalización
Broadcom adopta otro camino.
Sus grandes clientes cuentan con miles de ingenieros y pueden permitirse diseñar su propia arquitectura.
No necesitan comprar un sistema completo.
Pueden decidir qué acelerador quieren, qué arquitectura de red usarán y cómo toda la infraestructura será integrada en sus centros de datos.
Para ellos, tener control sobre el diseño puede ser más importante que adquirir una plataforma ya terminada.
También hay un incentivo económico importante.
A escalas de varios gigavatios, reducir unos pocos puntos porcentuales en consumo energético o en coste del silicio puede significar cientos de millones de dólares.
El impacto del consumo energético en la transformación del mercado
La disponibilidad eléctrica se vuelve uno de los principales límites para el crecimiento de la IA.
Los nuevos centros se proyectan en cientos de megavatios y algunos avances alcanzan escalas de gigavatios.
En este contexto, el rendimiento por vatio adquiere tanta relevancia como el rendimiento absoluto.
Los aceleradores personalizados son particularmente atractivos para tareas de inferencia, donde cargas más predecibles y repetitivas predominan.
Las GPU siguen teniendo ventaja cuando la flexibilidad y la capacidad de manejar variadas cargas son prioritarias.
Esto puede generar una división natural en el mercado.
El escenario híbrido para el futuro
La lucha entre Nvidia y Broadcom no tiene por qué terminar con un solo ganador.
Los centros de datos de IA probablemente serán heterogéneos.
Las GPU programables seguirán dominando en ciertos entrenamientos, investigación y cargas que cambian rápidamente.
Los aceleradores personalizados podrán absorber progresivamente grandes volúmenes de inferencia y cargas repetitivas conocidas.
Las CPU continuarán gestionando otras funciones del sistema.
Y distintas tecnologías de networking conectarán toda esa infraestructura.
La cuestión será qué porcentaje del gasto se distribuirá en cada capa.
El mayor riesgo para Nvidia: otra GPU
Durante años, se ha buscado competir con Nvidia en el desarrollo de una GPU superior.
Pero la amenaza más relevante puede llegar desde otra dirección.
No es necesario reemplazar completamente las GPUs de Nvidia.
Basta con que los principales clientes trasladen una parte creciente de cargas a aceleradores propios.
Si Google, Meta, Amazon, Microsoft y otros gigantes avanzan en el uso de silicio personalizado, el mercado seguirá expandiéndose mientras la proporción que pasa por una GPU comercial disminuye.
Broadcom puede beneficiarse de esta transición, proporcionando diseño, propiedad intelectual, interconexión y networking.
Pero Nvidia tiene algo difícil de replicar: su ecosistema
Nvidia no solo compite en hardware, sino en un ecosistema desarrollado durante décadas.
CUDA, librerías optimizadas, herramientas de desarrollo, frameworks, networking y sistemas completos disminuyen considerablemente la dificultad para poner en marcha nueva capacidad de IA.
Este atributo es especialmente valioso fuera del pequeño grupo de hiperescalares que diseñan sus propios chips.
Para empresas, gobiernos, universidades o proveedores regionales, suele ser mucho más conveniente una plataforma programable.
La próxima gran batalla en IA: por la arquitectura del centro de datos
Nvidia y Broadcom representan visiones diferentes del futuro.
Nvidia busca transformar el centro de datos en una máquina de computación definida por su plataforma, donde aceleradores, redes y software evolucionen conjuntamente.
Broadcom apuesta por una infraestructura en la que los grandes operadores puedan construir sistemas personalizados combinando aceleradores propios con redes Ethernet cada vez más rápidas.
Ambas estrategias pueden coexistir.
Pero empieza a quedar claro que la próxima fase en la carrera por la inteligencia artificial no solo se definirá por cuántos FLOPS puedan ofrecer los chips.
Cuando los clústeres incluyen decenas de miles de aceleradores, la red, las interconexiones, el consumo energético y la arquitectura completa del centro de datos son tan cruciales como el procesador.
Ya no se trata solo de fabricar la GPU más rápida.
Se trata de decidir cómo construir las enormes máquinas que ejecutarán la próxima generación de IA.