Kimi K3 logra superar el “GPU Wall”. ¿Por qué Nvidia y Microsoft siguen ganando en el área de la inteligencia artificial?

La capacidad limitada de Moonshot indica que la demanda supera a la oferta.

MoonshotPausa en las nuevas suscripciones.Es necesario proteger a los usuarios existentes, al mismo tiempo que se implementa la nueva infraestructura. Eso es importante, porque la pausa ocurrió después de solo dos días de uso intensivo, lo que llevó a las GPU a alcanzar su capacidad máxima. Parece más bien una limitación en el suministro durante la fase de lanzamiento, y no un descenso en la demanda.

El obstáculo era la computación, no el interés.

Kimi K3 no es un producto de desarrollo experimental de una empresa especializada. Es simplemente…Modelo de lenguaje con 2.8 billones de parámetrosY Moonshot dijo que eso demostraba…Rendimiento a nivel fronterizoEn sus evaluaciones. Cuando un modelo de esa escala atrae tanta atención tan rápidamente, la conclusión inmediata es simple: la demanda por inferencias eficientes es alta, y el recurso computacional disponible es el punto de estrangamiento.

¿Por qué eso todavía puede beneficiar a Nvidia y Microsoft?

El caso del oso es comprensible. Si los modelos capaces de funcionar se vuelven más accesibles, el poder de fijación de precios puede verse presionado. El K3 de Moonshot…Su precio es de 30 centavos por millón de tokens de entrada almacenados.Lo cual subraya cuán competitivo se está volviendo el precio de los productos.

Pero el efecto de primer orden sigue teniendo importancia. Cuando un modelo eficiente se satura las GPU antes de que la capacidad sea completamente utilizada, los ganadores inmediatos son las empresas que suministran los chips, los clústers y las plataformas en la nube que gestionan esa carga de trabajo. Los modelos mejorados pueden aumentar la demanda de tokens, incluso cuando comprimen los precios por token. Para Nvidia y Microsoft, esto representa un entorno favorable: más capacidad de modelos, más adopción y mayor consumo de infraestructura.

El progreso en peso abierto puede expandir, y no reducir, el mercado de inferencias.

Si la capacidad era el punto de estrés, entonces la siguiente pregunta es: ¿dónde se encuentra el valor cuando los modelos abiertos mejoran?

Los modelos mejores pueden generar más uso, no solo tokens más baratos.

La interpretación más fácil, pero también la más engañosa, es que los tokens más baratos significan automáticamente menos oportunidades de negocio. Una interpretación mejor es que los modelos más potentes pueden aumentar la adopción, al ser útiles dentro de los procesos de trabajo reales.

Moonshot ya ha comenzado a dividir el acceso en segmentos.Kimi Web, App y WorkAdemás, se requiere un membreship separado para Kimi Code. Eso indica que el uso del servicio se realiza de forma distinta, según el flujo de trabajo, y no se trata de una sola herramienta integrada. K3 también ofrece…Ventana de contexto de 1 millón de tokensAdemás de la capacidad de razonamiento avanzado, el código a largo plazo y las habilidades relacionadas con el trabajo basado en conocimientos. Los usuarios están llevando al sistema hacia tareas más complejas y extensas, en lugar de utilizar prompts simples, como los que se usan en demos.

¿Por qué la calidad del alojamiento puede seguir generando un precio elevado?

Los pesos abiertos no eliminan la necesidad de una infraestructura confiable. Un modelo puede estar disponible libremente, pero las empresas aún deben pagar por una latencia baja, un rendimiento constante, controles de seguridad, integración de herramientas y estabilidad en la implementación. Moonshot dijo que la división de miembros estaba diseñada para una mejor asignación de recursos; en otras palabras, la calidad del servicio es más importante a medida que las cargas de trabajo se vuelven más importantes.

La ventana de contexto de un millón de tokens solo es útil si el sistema puede manejar documentos largos, bases de código y flujos de trabajo multistepos sin tener problemas. La codificación y el uso de los flujos de trabajo también requieren más recursos que el chat casual. Por lo tanto, la tendencia hacia una mayor flexibilidad no afecta automáticamente las condiciones económicas; en cambio, la competencia se desplaza hacia la calidad del despliegue, la gobernanza y la integración.

El caso del oso es más estrecho de lo que parece.

La perspectiva bajista es más fuerte en el punto más bajo. Si un modelo es simplemente suficiente y no ofrece ninguna ventaja significativa en términos de precisión, utilidad o fiabilidad, entonces ese nivel de inferencia puede volverse algo común con el tiempo.

Pero esa no es la interpretación más clara de K3. Moonshot dijo que el modelo mostró…Rendimiento a nivel de frontera en todo nuestro conjunto de herramientas de evaluaciónLas evaluaciones externas indicaron que era competitivo con los modelos principales. Cuando los modelos abiertos cubren esa brecha, el efecto a corto plazo será una mayor adopción y más cargas de trabajo que se transferirán a sistemas basados en infraestructuras en la nube. Eso, a su vez, favorece a los proveedores de servicios en la nube y de aceleradores.