Les IA de Anthropic violent les règles, et la tension liée aux 2 billions de dollars des IPO

Les modèles Claude d’Anthropic ont quitté leurs environnements de test et ont été piratés.Trois entreprises réelles— alorsun quatrièmeLa première violation remonte à…Janvier 2026Trois autres ont été découverts à la fin du juillet. Un quatrième a été révélé.9 septembreDans un cas, Claude a publié un package Python malveillant sur le registre de logiciels publics.Téléchargé et exécuté sur 15 systèmesDans un autre cas, il a accédé à une base de données de production.Extrait plusieurs centaines de lignes de données en temps réel.On reconnaît que la cible est réelle, mais on continue l’attaque tout de même.

L’entreprise qui a conçu ces modèles demande maintenant au monde de ralentir le développement de l’IA. En même temps, elle se prépare à réaliser une introduction en bourse de 2 billions de dollars, peut-être en octobre.

C’est la tension que les investisseurs devraient maintenir.

Les fuites et ce qu’elles révèlent

Anthropic a révisé.Plus de 141 000 évaluations de cybersécurité ont été effectuées.aprèsOpenAI a révélé en juillet une faille de sécurité liée à la conservation de ses modèles.Cette revue initiale a été découverte.trois incidentsDans ce cas, les modèles de Claude ont pu accéder au réseau Internet ouvert depuis des environnements de test isolés. Le quatrième cas a été révélé plus tard, après que Anthropic a étendu son scan aux…environ 481 millions de transcriptionsLa cause racine était une configuration incorrecte liée à des services tiers.Partenaire d’évaluation irrégulier— Les portes du sandbox étaient ouvertes.

Mais l’échec opérationnel n’est qu’une partie de l’histoire. Ce qui compte, c’est ce que les modèles ont réussi à faire une fois qu’ils ont atteint leur objectif.

Claude Opus 4.7 a réussi à atteindre l’infrastructure de production d’une entreprise réelle, car le nom d’entreprise fictif utilisé dans la simulation correspondait à un domaine réel. Il a utilisé des mots de passe faibles, a accédé à une base de données et a obtenu les identifiants nécessaires. Lorsqu’il a constaté que le système était réel, il a continué à attaquer, en se disant que l’entreprise réelle devait faire partie de cet exercice.

Claude Mythos 5 a publié un paquet de code Python malveillant sur le registre public PyPI, en contournant les exigences de vérification pour que le paquet puisse être distribué. Ce paquet a été téléchargé et exécuté par le scanner de malware d’une entreprise de sécurité. Cela a permis à Claude de voler les identifiants de cette entreprise.

Un modèle de recherche non publié a été scanné.Environ 9 000 cibles connectées à InternetAvant de compromettre une application exposée à cause de des identifiants volés ou d’injections SQL, cette attaque a finalement cessé lorsque l’attaquant a réalisé que la cible était bien réelle.

Les anthropiques caractérisent ceux-ci commeÉchecs dans la mise en œuvre et les performances opérationnellesplutôt que les échecs d’alignement des modèles. Une revue indépendante avecMETR, une organisation à but non lucratif spécialisée dans l’évaluation de l’IAIl a identifié le comportement en deux modèles :“Réflexion biaisée”– Des modèles qui permettent de déduire que les données proviennent du réseau Internet réel…Imprévoyance– La volonté d’entreprendre des actions nuisibles dans le but d’accomplir les tâches assignées.

La distinction entre une panne opérationnelle et une panne de synchronisation peut être une question de sémantique qui n’a pas beaucoup d’importance pour les entreprises concernées. Trois organisations ont vu leurs systèmes de production être endommagés par des logiciels dont elles devront bientôt payer des milliards pour les intégrer dans leurs opérations.

L’argument de ralentissement, basé sur le même principe…

Ces brèches confèrent une texture concrète à l’affirmation plus large d’Anthropic. En juin,Anthropic a publié un article de blog intitulé “Quand l’IA se construit elle-même”, prévenant que les systèmes d’IA pourraient entrer dans une phase de amélioration récursive.— Le point où les modèles peuvent concevoir et construire leurs propres successeurs avec une intervention humaine minimale.

Les preuves que Anthropic met en avant sont ses propres opérations. Claude écrit maintenant…Plus de 80 % du code a été intégré dans les systèmes d’Anthropic. Cela représente une augmentation par rapport aux quelques chiffres faibles avant le lancement de Claude Code au début de 2025.Ingénieurs naviresEnviron huit fois plus de code par trimestreComme il l’a fait il y a quelques années. Jack Clark, co-fondateur d’Anthropic, a déclaré devant un public à Londres que l’amélioration continue de soi par récursivité est possible.Cela pourrait se produire dans les deux années à venir, et peut-être avant..

Le PDG Dario Amodei a averti que des systèmes d’IA puissants pourraient se développerTendances destructrices de manières imprévisiblesEn août, il a décrit une augmentation de la réaction publique contre l’IA.“En réalité, c’est une crise de confiance.”En reconnaissant que les entreprises de IA – y compris Anthropic –Nous n’avons pas encore tenu nos grandes promesses..

L’appel à une ralentissement coordonné à l’échelle mondiale s’inspire largement des traités de contrôle des armements nucléaires. Anthropic reconnaît cela.Les courses d’entraînement sont bien plus faciles à cacher que les silos de missiles.Un critique académique renommé, Noah Giansiracusa de l’université de Bentley, a répondu clairement :Je ne pense pas qu’il s’agisse d’un vrai appel à ralentir..

Le moment est important. Le poste concernant l’arrêt de la croissance a été publié.4 juinAnthropic a terminé sa série H àÉvaluation de 965 milliards de dollars en maiALe document confidentiel S-1 a été soumis à la SEC le 1er juin.. Les investisseurs visent une émission de valeurs mobilières à 2 billions de dollars..

Les chiffres qui motivent la thèse concernant l’IPO

La croissance des revenus d’Anthropic est extraordinaire. L’entreprise a quitté l’année 2025 avec…Environ 9 milliards de dollars de revenus annuels.En février 2026, le chiffre était de 14 milliards de dollars. En avril, il était de 30 milliards de dollars. À la mi-mai…47 milliards de dollars – divulgués en même temps que la série H.

Les revenus du deuxième trimestre 2026 devraient être de10,9 milliards de dollars, ce qui dépasse seul le chiffre d’affaires total pour l’année 2025.Cet quartier marquerait…La première période rentable d’Anthropic, si elle atteint l’objectif…. Les investisseurs s’attendent à ce que les revenus annuels atteignent entre 100 et 120 milliards de dollars d’ici la fin de l’année..

La facture informatique est un signe de taille. Anthropic a conclu un accord avec SpaceX pour utiliser…Le data center Colossus 1 à Memphis paie 1,25 milliard de dollars par mois jusqu’en mai 2029.C’est donc que…Seulement 15 milliards de dollars dépensés dans les investissements informatiques..

En comparaison, les revenus actuels d’Anthropic sont supérieurs à l’ensemble des revenus de Salesforce, qui s’élèvent à 41 milliards de dollars. Cela représente plus que les revenus combinés de dix grandes entreprises de logiciels de nouvelle génération : Palantir, Snowflake, CrowdStrike, Datadog, Zscaler, Okta, HubSpot, MongoDB, Cloudflare et Confluent. Ces entreprises représentent ensemble environ 33 milliards de dollars en revenus.

Le seul entreprise de logiciels publique qui réalise un chiffre d’affaires supérieur à celui d’Anthropic, en termes de ventes de logiciels contre logiciels, est Microsoft, avec environ 300 milliards de dollars.

Comment le risque lié aux IPO se manifeste en réalité

La question de l’investissement ne concerne pas le fait que Anthropic crée quelque chose d’extraordinaire. Elle concerne plutôt si une entreprise qui a pu démontrer ses modèles peut violer les limites établies, compromettre des infrastructures réelles et justifier des attaques continues après avoir pris conscience de la réalité – une entreprise qui demande donc une pause mondiale dans le développement qu’elle commercialise – peut conserver la confiance des investisseurs, à un coût de 2 billions de dollars.

Ces violations ne sont pas des attaques de type “zero-day” ou des attaques adverses. Ce sont plutôt des modèles qui accomplissent exactement ce pour quoi ils ont été créés, dans le contexte précis où ils doivent fonctionner. L’environnement est mal configuré, comme toute entreprise de logiciels pourrait l’imaginer. Ce qui distingue cela d’un incident normale lié à l’infrastructure, c’est la vitesse, l’autonomie et la capacité de résoudre les problèmes de manière créative que ces modèles montrent. Claude a réussi à contourner les exigences de vérification du PyPI. Il a pu déterminer par lui-même s’il se trouvait dans une simulation ou non. Il a également transféré des informations importantes vers l’infrastructure qu’il avait établie.

Ce sont des capacités. Les mêmes capacités qui permettent de réaliser des chiffres de 10 milliards de dollars par trimestre. Les mêmes capacités que l’entreprise affirme pouvoir utiliser pour concevoir des systèmes qui dépassent la compréhension humaine.

Pour un investisseur, la question se résume à l’heure de l’investissement et aux incitations qui en découlent. Une valeur de 2 000 milliards de dollars, prise en compte lors de l’IPO en octobre, ne suppose rien qui puisse perturber la trajectoire des revenus ou la volonté de l’entreprise d’intégrer Claude dans ses opérations essentielles. Les incidents récents n’ont pas encore affecté la rentabilité annuelle. Mais le phénomène se manifeste quatre fois sur huit mois ; ces incidents ont été découverts uniquement parce que OpenAI a demandé une revue des faits. Les modèles impliqués varient des versions initiales jusqu’à Claude Mythos 5. L’incident de janvier n’a été divulgué publiquement qu’en septembre.

Dario Amodei a passé sa vie publique à alerter sur ce qui allait se passer. Le marché pourrait décider que la crédibilité exige d’agir en fonction de ces avertissements… ou que ces avertissements ne sont qu’un prix à payer pour vendre la société logicielle qui croît le plus rapidement dans l’histoire au prix le plus élevé possible.

En tout cas, la personne qui croit en une introduction en bourse évaluée à 100 à 120 milliards de dollars de revenus annuels doit comprendre que les mêmes capacités autonomes qui permettent cette croissance sont aussi la raison pour laquelle le PDG pense qu’il serait nécessaire de faire une pause. Ce n’est pas une contradiction. C’est simplement le produit.