Le niveau de l’AI-Gateway se rapproche de zéro – La démo Azure de TrueFoundry n’est qu’une simple distribution.

Une start-up de San Francisco, comptant environ cent employés et n’ayant aucune action en bourse publique, a annoncé que son « AI Gateway » est…Maintenant listé sur le Microsoft MarketplaceTrueFoundry – officiellement Ensemble Labs, soutenu en privé par…Un investissement de 19 millions de dollars dans une série A dirigée par Intel Capital.— L’annonce a été présentée sous la forme habituelle de nom de client :Nvidia, Mastercard, Comcast : « des milliards de tokens par jour »C’est tentant de considérer la sortie sur le marché comme une preuve de demande. Mais ce n’est pas le cas. Il s’agit simplement d’un canal de distribution. La question investissement intéressante n’est pas de savoir si TrueFoundry trouve des clients, mais si la chose qu’il vend peut devenir un véritable business.

Une liste est un canal, pas un signal de demande.

Le Marketplace de Microsoft est l’endroit où les entreprises achètent des logiciels cloud sans avoir besoin de nouer une relation de partenariat avec un nouveau fournisseur. Pour une startup qui devait chercher elle-même chaque contrat à signer, le fait de pouvoir accéder à ce marché simplifie les choses. De plus, les équipes commerciales de Microsoft peuvent vendre ces produits en même temps. C’est vraiment une solution utile pour le lancement sur le marché. TrueFoundry a payé pour utiliser le bon canal de distribution en rejoignant le programme de partenaires Pegasus de Microsoft et en recevant une offre du responsable des activités de startups chez Microsoft dans le communiqué de presse.

Mais regardez attentivement comment les fonds sont déplacés. Les achats effectués via le Azure Marketplace réduisent les liquidités du client.Engagement en matière de consommation d’Azure– Le montant en dollars sur plusieurs années que le client a déjà promis à Microsoft. Seules les offres qui permettent d’obtenir des avantages liés à Azure comptent ; les licences utilisées dans des environnements locaux ou hybrides ne comptent pas. Donc, seuls les achats effectués via le marché Azure sont pris en compte.Réduire de 100 % la valeur avant impôts de leurs actifs liés à cet engagement.Et TrueFoundry vend également des solutions pour les environnements locaux, les environnements hybrides et les environnements multi-cloud. C’est là qu’il faut prêter attention : une grande partie des revenus “noves” provenant de ces ventes ne sont pas vraiment des revenus nouveaux. Il s’agit plutôt d’argent déjà consacré à des dépenses cloud qui sont redirigés vers les coûts liés aux logiciels de TrueFoundry, en échange de l’argent que le client doit à Microsoft. Cela est utile pour conclure des accords avec un CFO sceptique. Mais c’est aussi une base d’ revenus durables et à haut taux de marge.

Cette couche, tout le monde essaie de la réduire à zéro.

Reculez un peu… Les nouvelles concernant le Marketplace se perdent dans le bruit de fond. En effet, la catégorie en question est très comprimée et tend à devenir une simple commodité. Un portail IA est donc un système de contrôle simple, qui se trouve entre l’application et les API du modèle : il gère le trafic, limite les dépenses, applique des règles de contrôle, et enregistre l’utilisation. Il y a moins de deux ans, c’était un problème nouveau. Aujourd’hui, c’est un problème très récurrent.Environ vingt start-ups de type « gateway » ont été lancées.Les anciens fournisseurs de plateformes API, tels que Kong et F5, ont intégré des versions basées sur l’IA. De plus, Gartner et G2 considèrent désormais ce type de gateway comme un élément important dans leurs analyses.comme sa propre catégorie de achats.

Le problème de durabilité est structurel. La partie principale du travail – le routage entre les modèles OpenAI, Anthropic et ceux hébergés localement, avec des limites de taux et des budgets – est disponible gratuitement.LiteLLM et l’Envoy AI Gateway sont de source ouverte.Il est largement utilisé et suffisant pour la plupart des équipes. Lorsque l’option populaire est gratuite, et que les hyperscalers sont occupés à développer des systèmes de routage intermodaux dans leurs propres cloud, le prix proposé par un fournisseur indépendant est déterminé par le coût de faire mieux que le prix gratuit, plus le risque que le client ne choisisse une autre solution. C’est là une situation économique peu attractive… C’est précisément pour cette raison que la valeur offerte par ces fournisseurs de passerelles indépendantes ne se situe pas là où ils l’espèrent.

Où le portail se trouve réellement.

Le signe le plus clair est celui qui achète cette catégorie. En mai, Palo Alto Networks a conclu son acquisition de Portkey, l’une des premières start-ups spécialisées dans les systèmes d’IA.Il l’a intégré dans Prisma AIRS.L’acheteur n’était pas une autre entreprise spécialisée dans les solutions de passerelle. C’était plutôt un fournisseur de services de sécurité qui considérait la passerelle comme une fonctionnalité à intégrer dans une plateforme qui contrôle déjà le réseau et les endpoints de l’entreprise. Il s’agit d’un type de produit qui peut facturer des prix réels, car il fait partie d’une relation de sécurité existante.

C’est le schéma à retenir. Le gateway n’est pas une entreprise indépendante et durable ; c’est plutôt un composant que la plateforme principale absorbe. Il s’agit d’une hyperscaler comme Microsoft ou AWS, d’un fournisseur de services de sécurité comme Palo Alto, ou encore d’un projet open-source qui remplace toutes les licences traditionnelles. L’exception se trouve dans les caractéristiques distinctives de TrueFoundry : son agent et son gateway MCP, ainsi que sa capacité…Exécuter les opérations en mode sans connexion à Internet, dans le VPC propre du client.Pour les acheteurs qui ont besoin de réglementations strictes. Cet aspect de la gestion en interne est vraiment difficile pour une hyperscaler basée sur le cloud, et il est également difficile pour les logiciels open source de garantir la sécurité au niveau d’entreprise. Si cela devient réel et persiste, TrueFoundry aura alors un niche défendable… mais c’est un niche qui sera rapidement remplacé par des alternatives, et dont on ne peut toujours pas s’approcher.

Le jugement concernant un investisseur en ligne concerne le niveau de sécurité, et non l’entreprise elle-même.

Comme TrueFoundry est une entreprise privée, cette annonce ne permet pas de commerce direct. Son véritable utilité est de servir d’exemple pour comprendre les problèmes liés aux infrastructures d’IA. Les bénéfices qui restent après la mise en place d’une infrastructure d’IA ne proviennent pas de la couche de routage et de gestion, où les logiciels open source et les grandes entreprises édictent des prix qui tendent vers le coût de fonctionnement. Ces bénéfices se concentrent plutôt sur les plateformes qui possèdent les modèles, les ressources de calcul et les relations avec les entreprises. De plus, cela concerne également les fournisseurs de sécurité qui transforment la plateforme en un argument pour acheter une plateforme plus importante. Lorsque vous voyez une plateforme d’infrastructure d’IA célébrer un succès de distribution, demandez-vous qui est vraiment celui qui récupère les profits. L’entreprise qui annonce cette nouvelle est rarement celle qui en profite réellement.