La apuesta de Nvidia de 12.9 mil millones de dólares: Su próxima batalla será en los modelos, no en los chips.

El 3 de septiembre, Nvidia accedió a…Comprar Hugging Face por 12.93 mil millones de dólares..

Eso no es algo importante para una compañía de chips. Hugging Face no produce silicio. Es un centro donde más de 18 millones de desarrolladores, investigadores y startups comparten, descubren y descargan modelos de IA abiertos. Es el lugar donde un desarrollador decide qué modelo utilizar antes de decidir qué chip elegir para ejecutarlo. Nvidia pagó aproximadamente tres veces más que…En 2023, la empresa startup fue valorada en $4.5 mil millones.En el marco de su mejor trimestre hasta ahora, con la promesa clara de que Hugging Face “se mantendrá abierta”, y que sus propios chips “no son necesarios” para utilizar la plataforma.

Mantenga esa tensión. La empresa que vende el acelerador de IA más rápido del mundo –y administra el software CUDA, que mantiene a los clientes atrapados en sus sistemas– compró un mercado neutral donde los desarrolladores pueden comparar los modelos de todos los usuarios. Luego dijo que no iba a obligar a nadie a utilizar su hardware. Es algo extraño de hacer. Para entenderlo, hay que identificar dónde está más débil el “muro defensivo” de Nvidia. La respuesta no se encuentra en el propio chip.

El entrenamiento construyó el fosoín. La inferencia lo probará.

Durante dos años, la situación fue simple. El entrenamiento de un modelo de IA – ese proceso computacional enorme que se necesita para crear el modelo desde cero – se lleva a cabo principalmente en las GPU de Nvidia. Casi nadie puede salir de esa situación, debido a CUDA, la capa de software que hace que los chips de Nvidia sean el método preferido para el entrenamiento. Esa barrera de entrenamiento es real, y es por eso que el último trimestre fue absurdo.Ingresos de 96.2 mil millones de dólares para el trimestre terminado a finales de julioHa aumentado un 106% en comparación con el año anterior. De estos ingresos, 89 mil millones de dólares provienen únicamente de los centros de datos, con una tasa de margen bruto del 75%. En la llamada de resultados, Jensen Huang dijo que la IA “ha alcanzado su punto de inflexión”. La empresa estimó que los ingresos para el próximo trimestre serán de 108 mil millones de dólares, siempre y cuando no haya ingresos provenientes de los centros de datos en China.

Pero la parte del ciclo que determinará los próximos años no es el entrenamiento. Es la inferencia: ejecutar un modelo ya completado para responder a preguntas, generar palabras de texto (cada una de ellas se considera un “token”), o dirigir a un agente a través de una tarea. La inferencia es donde realmente se gana dinero, porque ocurre millones de veces al día en escala masiva. Es también la parte en la que el costo por token es el más importante. La inferencia también es donde el “muro defensivo” de CUDA es más débil, porque se valora más la latencia, la eficiencia y el costo por vatios, en lugar de la potencia bruta. Eso es precisamente lo que han estado intentando lograr con sus chips personalizados de Google, Amazon y otros.

Así que cuando Nvidia presentó su próxima generación de productos, Vera Rubin, lo hizo con ese número como punto destacado.Hasta una reducción de 10 veces en el coste de inferencia por token.en comparación con la generación actual de Blackwell. Además, hay cuatro veces menos GPU para entrenar los modelos “mixto-de-especialistas” que ahora dominan el mercado. Estas son afirmaciones propias de Nvidia, y no son pruebas independientes. Pero un dato inicial es proporcionado por un cliente, no por un comunicado de prensa: CoreWeave, uno de los primeros en utilizar las máquinas Rubin, midió su rendimiento inicial…10 veces más tokens por megavatios.Más que Blackwell. La apuesta es que, para cuando Rubin llega con la segunda mitad de este año, el “token más barato” –no el “chips más rápido– será el valor que todo el mercado establecerá.

Qué compra realmente el $12.9 mil millones.

Es aquí donde el acuerdo entre Hugging Face y Nvidia deja de parecer una simple compra de logotipos. Hugging Face es la “puerta principal” del ecosistema de modelos abiertos: hay 3 millones de modelos, 500,000 conjuntos de datos y más de 200,000 empresas que utilizan este sistema para descubrir e implementar inteligencia artificial. Nvidia es, además, el principal contribuyente de modelos abiertos en este ecosistema. Tener el control sobre este centro donde los desarrolladores evalúan e implementan modelos permite a Nvidia estar en el centro de todo el proceso, en una época en la que la cuestión clave es la economía de las modelos abiertos.

Lo importante es saber quién es.NoEn esa mesa, los laboratorios líderes en este campo –OpenAI, Anthropic– desarrollan modelos cerrados, vinculados a sus propios procesadores y, cada vez más, a chips alquilados. El modelo abierto es la parte del futuro de la IA que permanece neutral; puede funcionar en cualquier dispositivo. Al controlar el mercado de modelos abiertos, mientras que los laboratorios cerrados se aferran a sus propios procesadores, Nvidia intenta hacer que “el modelo abierto” sea percibido como algo que funciona mejor en Nvidia… incluso cuando insiste en que la plataforma siga siendo multi-cloud y multi-procesador. Análisis de TechCrunch indica una razón más silenciosa y compleja: Nvidia tiene…Comprometidos con decenas de miles de millones de dólares en contratos de computación en la nube.Para los clientes, y si esos clientes no utilizan toda la capacidad que han adquirido, Nvidia puede verse en una situación difícil. La base de desarrolladores de Hugging Face es un canal ideal para vender productos. La demanda detrás de esta estrategia es real, no algo esperado: el mismo día de los resultados financieros, AWS anunció que…Añadir 2 millones más de GPU de Nvidia.— Blackwell Ultra, Rubin y Rubin Ultra — para 2027 y 2028, aproximadamente.Cumplió su compromiso de producir alrededor de 3 millones de chips en cinco meses..

Nada de esto es una advertencia de que la tesis relacionada con los chips esté equivocada. Al contrario: el negocio de los chips crece tan rápidamente que Nvidia puede permitirse entrar en esa área donde espera tener un impacto significativo. Pero este cambio afecta dos cosas que los inversores realmente monitorean. Mueve la parte interesante de la historia hacia los años 2027 y 2028: cuando Rubin y el modelo abierto estén operando a gran escala. En ese momento, será necesario demostrar que las monedas más baratas se convierten en más ingresos para Nvidia, y no solo en competidores más baratos. Además, aumenta los requisitos para lo que el capital debe hacer. La pregunta de si Nvidia gana en el ámbito del entrenamiento ya no es “¿gana Nvidia?”, sino “¿es este el mejor lugar para invertir ese dinero? ¿En modelos abiertos, en el silicio, o en el nuevo competidor que aparezca cuando la inferencia se vuelva más competitiva?”. Nvidia ya no necesita poseer el mercado para seguir creciendo, porque el mercado sigue expandiéndose bajo sus pies. Pero ahora tiene que defender esa área donde el muro de protección del entrenamiento no llega. Eso es donde comienza a cambiar todo.