La transición hacia la inferencia de IA es ahora una historia relacionada con el software. Datadog es el “señal” que indica este cambio.

Cuando los grupos de infraestructura en la nube añaden miembros, lo que se hace es echar un vistazo al comunicado de prensa y seguir adelante. Pero…El anuncio hecho en junio por la Cloud Native Computing FoundationLa organización que gestiona Kubernetes y que, de forma silenciosa, se ha convertido en el “árbitro” para la forma en que las empresas implementan la inteligencia artificial, merece una segunda mirada. Pues representa la perspectiva del propio sector sobre hacia dónde se dirige la próxima ola de gastos en inteligencia artificial: fuera de los aspectos de entrenamiento, hacia los aspectos de inferencia.

Los datos de la fundación hacen que el cambio sea real.El 66% de las organizaciones que utilizan inteligencia artificial generativa ahora emplean Kubernetes para gestionar al menos parte de sus cargas de trabajo de inferencia.Y el 82% de los usuarios de contenedores utiliza Kubernetes en producción. Es la versión institucional de un cambio en los productos: las empresas han dejado de desarrollar inteligencia artificial y han comenzado a utilizarla en sus operaciones.

Lo que la mayoría de los inversores pasan por alto es cómo ese proceso de transición afecta al lugar donde se encuentra el valor. El entrenamiento es un proceso que dura meses; se trata de una gran cantidad de datos que se procesan hasta que el modelo esté completo. Es la fase en la que el poder de Nvidia con su tecnología CUDA es casi absoluto, y el chip es lo más importante. En cambio, la inferencia es algo diferente: siempre activa, sensible a la latencia y al costo. Se realiza en miles de máquinas, cuyo objetivo es hacer que cada consulta sea rápida y confiable. En el entrenamiento, el hardware determina los límites. En la inferencia, la software que hace que ese hardware sea predecible se convierte en el aspecto más importante: un problema de eficiencia que no puede ser controlado por un único diseñador de chips.

Ese es el mecanismo que la CNCF ha estado documentando en silencio. Pero todavía es temprano. Solo el 7% de las organizaciones utiliza la inteligencia artificial generativa diariamente en producción continua; además, el 44% no utiliza ninguna tecnología de IA en Kubernetes. La implementación de esta tecnología es real, pero está en una fase inicial. Es precisamente ese tipo de situación en la que la capa de software puede crecer rápidamente antes de que el mercado pueda establecer un precio para este cambio.

Datadog es la prueba pública más pura del mercado de software de inferencia.

La forma más clara de manifestación pública de ese nivel de software es Datadog, la empresa especializada en observabilidad que vende las herramientas necesarias para monitorear todo este proceso. Datadog ha desarrollado herramientas para monitorear los GPU, con el objetivo de controlar aspectos como el uso de los GPUs, el calor generado, la potencia utilizada y las interconexiones entre ellos. Se trata del nivel operativo de la inferencia que se ejecuta en producción. En su última reunión de resultados financieros, la empresa declaró abiertamente que…El centro de gravedad es la producción y la inferencia.No es solo la fase de entrenamiento; también se está probando algo más.

Los resultados operativos han comenzado a mostrarlo. En el trimestre finalizado el 30 de junio, Datadog informó queIngresos de 1.12 mil millones de dólares, un aumento del 36% en comparación con el año anterior.— y, lo que es más significativo, unaAceleración secuencial del 11.4%; es su mayor crecimiento trimestre a trimestre desde principios de 2022.La gestión describe esta aceleración como de gran alcance: el crecimiento, excluyendo a los clientes especializados en IA, se acelera hasta los 20% más altos; además, los clientes especializados en IA forman parte de esa cifra. La base de clientes incluye más de 750 clientes especializados en IA, de los cuales ocho tienen ingresos anuales recurrentes superiores a 10 millones de dólares. Además, los diez líderes en el campo de la IA son todos clientes pagadores. Esto no es simplemente una noticia sobre cómo vender palas a un único proveedor de servicios de inteligencia artificial; se trata de una base cada vez mayor de empresas que pagan para mantener su sistema de IA confiable. Eso es exactamente lo que realmente requiere el proceso de transición del entrenamiento al uso práctico de la tecnología de IA.

¿Por qué una tesis real todavía necesita un control en cuanto al precio?

Esta es la parte de la análisis que es más importante que la tasa de crecimiento. La ejecución actual es real, pero las acciones ya han absorbido gran parte de la información relevante. Datadog ha aumentado aproximadamente un 66% desde el inicio del año, y en los últimos cuatro meses ha subido un 68%. Esto ha hecho que su valoración sea de aproximadamente 19 veces los ingresos anteriores. Una tesis que el mercado ya ha aceptado en gran medida debe evolucionar, en lugar de ser defendida. La curva de retornos a corto plazo es, por tanto, una cuestión clave.

También hay señales de que la segunda mitad del año es más moderada de lo que sugiere el crecimiento general. Las proyecciones de Datadog para el próximo trimestre indican una tasa de crecimiento intertrimestral en los 20% más altos; es decir, un descenso en el crecimiento trimestre tras trimestre. La empresa incluyó en esa proyección una…Disminución en el uso por su cliente más grande.Esa es la naturaleza “de doble filo” de los cobros basados en el uso: la misma complejidad relacionada con la inteligencia artificial que se utiliza para monitorear los cobros puede ser optimizada cuando un usuario que gasta mucho decide que está pagando demasiado por registros y datos.

Por lo tanto, la interpretación honesta es condicional. La tesis —la conclusión— asigna valor al nivel de software, y Datadog se encuentra claramente en ese contexto. La pregunta abierta es si, con un 19% de aumento en las ventas después de dos tercios de descuento en el precio, ese cambio sigue siendo una conclusión o simplemente una suposición. La implementación es real y ocurrió a tiempo para merecer la paciencia necesaria, pero el múltiple ha tomado una parte significativa de esa ganancia. La demanda no es el problema. Lo importante es si el precio actual sigue siendo el mejor lugar para invertir nuevos recursos, frente a todo lo demás en el sector de la IA.