La “Inference Shopping Spree” de Nvidia es la verdadera señal.

La “Inference Shopping Spree” de Nvidia es la verdadera señal.

La empresa tecnológica más valiosa del mundo no necesita 2.3 mil millones de dólares. Lo que realmente necesita es saber qué vendrá después de sus GPU’s. Por lo tanto, las conversaciones reportadas esta semana con una startup surcoreana de chips deben ser interpretadas como cualquier señal en la cadena de suministro: se debe considerar la dirección en la que se moverá la producción, no el precio.

Bloomberg informó queNvidia está en fases iniciales de negociaciones con Rebellions.Un diseñador con sede en Seúl que crea unidades de procesamiento neuronal para la inferencia de inteligencia artificial. Según los informes, su valor de mercado es de aproximadamente 2,3 mil millones de dólares. Los conversaciones que se llevan a cabo…De una colaboración técnica a una posible adquisiciónY el CEO de Rebellions, Sunghyun Park, se reunió con Jensen Huang en la sede de Nvidia en Santa Clara, la misma semana en que surgieron las conversaciones.

Esto no es una rumor aislado, ni tampoco algo de poco importancia. Se trata de la segunda transacción importante entre Nvidia y una empresa competidora en materia de tecnología de inferencia, en aproximadamente ocho meses. En diciembre, Nvidia pagó…Aproximadamente 20 mil millones de dólares: es la transacción más grande que se haya registrado hasta ahora.Casi tres veces el monto de los 7 mil millones de dólares que gastó en Mellanox en 2019… Se trataba de una licencia no exclusiva para la tecnología de inferencia de Groq. Además, la empresa contrató a la mayoría del equipo técnico de Groq, incluyendo al fundador de Groq, Jonathan Ross, uno de los creadores de la unidad de procesamiento de tensores de Google. Las dos empresas presentaron este acuerdo.Como un esfuerzo conjunto hacia la inferencia de alto rendimiento y bajo costo..

Por qué la inferencia es el nuevo campo de batalla

Las definiciones son importantes en este contexto, porque “inferencia” es lo que realiza la mayor parte del trabajo en esta situación. El entrenamiento es la fase en la que el modelo aprende a partir de grandes cantidades de datos. La inferencia, por su parte, consiste en procesar nuevos datos para responder preguntas, generar textos o transcribir voz. El entrenamiento se realiza unas pocas veces por modelo; la inferencia, en cambio, ocurre cada vez que un usuario utiliza un producto. Por eso, la inferencia crece junto con la adopción del modelo. Las perspectivas económicas relacionadas con la IA están orientadas hacia esto. Las proyecciones de la industria, basadas en el Índice de Inteligencia Artificial de Stanford…La inferencia representará aproximadamente dos tercios de los cálculos de la IA para el año 2029.Y entre el 80% y el 90% del costo total de vida de los sistemas de IA. McKinsey también considera que…La inferencia representará más del 40% de la demanda del centro de datos para el año 2030..

Esa rotación representa el cambio en la estructura del mercado que realmente importa. En los entrenamientos, CUDA y el conjunto de software relacionado constituyen un obstáculo enorme para los competidores: la base de desarrolladores, las bibliotecas y los costos de cambio de sistema hacen que cualquier intento de competencia sea inútil. La inferencia, por otro lado, es un campo de batalla diferente. Cuando el objetivo es reducir la latencia, disminuir los costos por token y controlar el consumo de energía de todo un sistema, entonces el propio chip es más importante que el ecosistema que lo rodea. Eso es precisamente donde los competidores como Groq, Cerebras y ahora una empresa surcoreana han estado atacando siempre.

Nvidia’s Checkbook cede el primer lugar.

Lo que hace destacar este patrón es que Nvidia admite esto en sus propias acciones. La transacción con Groq se estructuró como un acuerdo de licencias, y no como una adquisición. El negocio de nube de Groq permaneció independiente. Esta estructura también evitó los problemas relacionados con las normas antitrust en la UE, el Reino Unido y China. Es una decisión sensata para una empresa que controla…Aproximadamente el 90% del mercado de chips de IALos observadores del sector industrial interpretan este acuerdo como un reconocimiento de un punto débil en el rendimiento de los GPU de Nvidia. La arquitectura de Groq tiene como objetivo…La parte de decodificación sensible a la latencia en un trabajo con modelos lingüísticosJensen Huang mismo describió cómo se extendió la arquitectura de Nvidia con Groq, de la misma manera en que la empresa integró las tecnologías de Mellanox. En otras palabras: el monopolista invirtió 20 mil millones de dólares para licenciar una tecnología que no poseía, proveniente de una startup cuyo fundador tenía solo nueve años de experiencia. Los avances tecnológicos ocurren más rápidamente donde el jugador dominante está invirtiendo recursos.

Ahora, Rebellions se adapta perfectamente a ese modelo. La empresa es un diseñador de chips sin componentes electrónicos propios; su objetivo principal es lograr una eficiencia energética en los procesos de inferencia. Compiten por el precio por token, en lugar de por el tiempo necesario para entrenar los chips. Su chip de próxima generación, Rebel-Quad, utiliza una arquitectura basada en módulos, con 144 GB de memoria de alto ancho de banda almacenada en un único paquete.Construido en la fundición de Samsung.Y la lista de sus inversores parece ser el equipo nacional de semiconductores coreano: Samsung, SK Hynix y Arm. Además…El Fondo de Crecimiento Nacional del gobierno, que aprobó aproximadamente 166 millones de dólares.Es la primera inversión directa dentro del programa soberano “K-Nvidia” de Corea.

Es aquí donde la mayoría de los comentarios sobre este rumor se equivocan. Rebellions no es un objetivo típico del área de San Francisco que pueda ser eliminado en silencio. Es un proyecto respaldado por el gobierno nacional: dinero del gobierno, empresas nacionales especializadas en fabricación de componentes, y empresas importantes en el ámbito de la memoria digital.Los planes indicados son lanzar la empresa en Corea del Sur el próximo año.Con la posibilidad de que se presente una cotización en los mercados estadounidenses después. Los activos estratégicos que son apoyados por un programa soberano no son aquellos que Seúl tiende a entregar. La estrategia de Groq: licenciar la tecnología, capturar al talento, y dejar intacta la estructura corporativa de la empresa… es el resultado más probable. Además, esa es la versión que no cuesta nada a Nvidia.

La carretera de peajes en el próximo mercado

En términos aritméticos, incluso una adquisición completa sería un error de redondeo para Nvidia. Según los datos del mercado de Ainvest, su capitalización bursátil se sitúa cerca de los 5.2 billones de dólares. Un monto de 2.3 mil millones de dólares representa cuatro cientos veinte milésimas de uno por ciento de ese valor, y aproximadamente el 2% del flujo de efectivo libre de un año, que la empresa genera a una tasa superior a 119 mil millones de dólares. No se trata de una empresa que busca crecimiento; se trata de una empresa que consolida a sus competidores en sus filiales. Eso es importante, porque los competidores ahora tienen fondos suficientes para seguir operando.Las startups de chips competidoras han recibido fondos récord.Precisamente cuando la atención se centra en el despliegue eficiente de las inferencias, Nvidia ha seguido el mismo enfoque con Intel.Colaborando en productos relacionados con centros de datos y computadoras.En lugar de adquirirlos.

La estrategia se puede entender como una forma de “carretera de peajes” en la estructura del mercado. En lugar de luchar contra cada amenaza potencial, el líder licencia a los pocos competidores confiables, contrata a sus arquitectos y evita que la tecnología caiga en manos de AMD, Broadcom y los grandes proveedores de tecnología que fabrican chips personalizados.

Entonces, ¿qué debería entender un inversor de este tipo de rumores? En primer lugar, no darle demasiada importancia; las negociaciones están en una etapa inicial y podrían no terminar nunca. Además, no debe considerarse como una señal de debilidad. Nvidia no está comprando empresas que se dedican al área de inferencia porque esté perdiendo dinero; lo hace porque esa es la área donde la competencia se concentrará. Además, Nvidia cuenta con los recursos financieros necesarios para tomar esta decisión. Esa es la interpretación más correcta: las acciones de Nvidia son una confirmación de que la transición del entrenamiento al proceso de inferencia es real y ya está en marcha.

La situación se vuelve insostenible cuando las negociaciones fracasan completamente: sin licencias, sin alianzas, sin talento… Y Nvidia deja de pagar por la arquitectura de inferencia. En ese caso, el acuerdo con Groq se convierte en algo puntual, y los competidores conservan la ventaja que tienen actualmente en cuanto a latencia y costo por token.

Para los accionistas de Nvidia, la situación no cambia. Los ingresos siguen creciendo aproximadamente un 70% año tras año, con márgenes operativos cercanos al 64%. Además, el hecho de que una empresa monopolista esté reduciendo su participación en el mercado, que sigue expandiéndose varias veces más, también contribuye a este efecto negativo. Según datos del mercado de Ainvest, la acción ha bajado un poco del 4% en la última semana, hasta aproximadamente $215, después de un aumento del 16% desde el inicio del año. No se trata de una reacción a ningún rumor específico, sino más bien parte de la respuesta a un mercado con un valor de mercado de $5.2 billones.

Pero, en el margen, lo importante es que los dólares siguen las indicaciones de la inferencia: la integración de la memoria, como la memoria de alta banda ancha dentro del chip de Rebellions, el silicio personalizado y la energía que consume cada estación de procesamiento. Eso es donde se encuentran los próximos ganadores. Y por eso Nvidia, al licenciar la tecnología en lugar de construir todo en casa, te indica exactamente dónde se encuentra ahora el área de computación interesante.

El debate no es si Nvidia seguirá siendo clave en este ciclo durante el resto de la década. La cuestión es si el mercado valora correctamente la transición desde el entrenamiento hacia la inferencia, de la manera en que la propia empresa invierte en ese proceso. La demanda nunca ha sido el problema en este ciclo de IA; lo importante es qué arquitectura será la más rentable a medida que la estructura del mercado cambie. Nvidia está tomando medidas para aprovechar ese cambio, mientras que gran parte del mercado sigue estableciendo objetivos de precios. Sé en qué señales puedo confiar.