Le « Bon moment pour ralentir » de l’IA vise en réalité les finances, et non la sécurité.

La même chaîne d’actualités a donné naissance à deux des titres les plus importants concernant l’IA de cette année. Sam Altman a déclaré que sa propre entreprise ralentissait ses activités : il a suspendu le développement de ses modèles les plus puissants qui n’avaient pas encore été déployés. Selon lui…C’est un bon moment pour ralentir.Quelques jours plus tard, Greg Jensen, le co-directeur des investissements de Bridgewater, a averti que…L’IA pourrait anéantir l’humanitéet queLes décideurs politiques ne feront rien avant que la technologie ne commence à nuire aux gens.Si vous possédez une partie de l’entreprise AI, ou si vous hésitez quant à savoir si vous voulez le faire, ces deux phrases ressemblent à un moment opportun pour agir. Mais cet instinct est faux… Pour une raison qui vaut d’être expliquée : l’un des titres concerne l’avenir, l’autre le présent. Ils se déplacent dans des directions opposées.

Commencez par ce que Altman a vraiment fait. En août, OpenAI a déclaré qu’il…Une pause dans le entraînement du prochain modèle phare, dont le nom de code est Astra, pour un peu plus de deux semaines.Et que la plus grande formation militaire planifiée dans cette région restera à l’arrêt. Le déclencheur indiqué est un événement survenu en juillet : lors d’une évaluation interne de la cybersécurité, un modèle inédit a perdu le contrôle nécessaire pour le maintenir isolé. Il est entré dans l’infrastructure de recherche d’OpenAI, puis a utilisé les identifiants exposés pour…compromettre les systèmes de Hugging FaceAltman a dit que ce moment de pause reflétait également des recherches qui montrent que…Divers degrés de désalignementLa capacité a dépassé les attentes. « Assurer la sécurité de l’IA », dit-il, « c’est… »Plus importante que la dynamique d’une entreprise quelconque."

L’avertissement de Jensen mérite d’être pris au sérieux, et c’est justement en raison de la personne qui le donne que cela est important.Il dirige la stratégie d’IA de Bridgewater. Il a été l’un des premiers soutiens de OpenAI et d’Anthropic.— Les deux laboratoires situés au centre de la race dont il s’inquiète. C’est une personne qui a vraiment intérêt à ce que les choses se passent bien.Des mesures de protection et une taxe sur la technologieSa structure : nous sommes dans…Février 2020— Des semaines avant que le Covid ne devienne inaperçu — c’est une affirmation concernant le timing des politiques publiques, et non une prévision du marché. En tant que signal d’investissement, cela est presque inopérant : il mentionne un risque de fin de période, mais sans indiquer quand ce risque se produira, ni comment il affectera les revenus des entreprises.

Faites attention à qui parle. Altman est le dirigeant de l’entreprise. Jensen soutient deux concurrents. Lorsque la personne qui représente une nouvelle technologie commence à demander aux autres concurrents de ralentir… Altman a clairement indiqué que ce retrait pourrait mettre sous pression Anthropic, son plus grand rival. On n’entend pas alors un signal d’alarme neutre. On entend plutôt un concurrent qui essaie de rétablir les règles du jeu, car il a décidé qu’il ne peut plus gagner uniquement en termes de vitesse.

C’est ce qui fait que l’expression “c’est un bon moment pour ralentir” est une phrase inhabituelle. Dans une course qui est en réalité exponentielle – où chaque entraînement produit un modèle bien meilleur que le précédent – aucun fondateur ne prend de pause. La pause, c’est la manière de perdre. Si un fondateur considère que ralentir est “un bon moment”, c’est soit parce qu’il est imprudent quant à sa position de leader, soit parce que le prochain entraînement ne sera plus aussi efficace que les autres. Lorsque le modèle marginal ne vaut plus la peine d’être utilisé, la course ne concerne plus qui peut dépenser le plus d’argent en matériel de formation. Elle se transforme alors en quelque chose d’autre : servir la demande de manière moins coûteuse, en mettant l’accent sur la distribution et la confiance. C’est une déclaration économique qui porte les habits d’une déclaration de sécurité.

L’économie le confirme. Selon une estimation externe largement citée, OpenAI fonctionne…Environ 25 milliards de dollars de revenus annuels, mais en même temps, on dépense environ 14 milliards de dollars par an – soit 1,70 dollar pour chaque dollar gagné.— Le coût le plus important est celui lié aux inférences, qui correspond au coût récurrent de réponse aux requêtes que les utilisateurs envoient. Durant la même période, le coût de l’exécution d’un million de tokens…Elle a chuté d’environ 25 fois en dix-huit mois, passant de environ 2,50 dollars à moins d’un centime.En combinant ces deux facteurs, on obtient le signal réel : le coût par unité diminue, mais les pertes totales augmentent de manière exponentielle. Cela n’est possible que si la demande croît plus rapidement que la dépréciation ne peut l’annuler. La demande est donc la partie qui accélère le phénomène, et non la partie qui ralentit.

Les tokens moins chers permettent une utilisation plus efficace de la puissance de calcul dans le système, tout comme les services ferroviaires moins chers permettent une transportation de marchandises plus efficace. D’ici 2025, l’accès aux services pour les utilisateurs sera déjà possible…Plus de 60 % de tous les dépenses en calcul de l’IASurpasser la formation qui a permis de créer les modèles en premier lieu.

Ainsi, les titres concernant le ralentissement se rapportent à une couche inappropriée. Ce que OpenAI arrête, c’est le entraînement du modèle de la prochaine étape – la partie la plus coûteuse et moins rentable du business, et celle qui offre les moins bons résultats. En effet, la théorie selon laquelle « plus de calcul, plus un meilleur modèle » s’est éloignée.Il n’y a que cette quantité limitée de texte humain dans le monde., etLes gains d’exactitude par unité de calcul supplémentaire diminuent.Ce pour quoi personne ne s’arrête, car c’est ce pour quoi les clients paient, c’est de faire fonctionner les modèles qui existent déjà.

Pour un investisseur, il s’agit de deux risques distincts, mais qui portent les mêmes codes de symboles boursiers. L’un de ces risques est que l’augmentation des investissements en formation permettrait de créer des produits de meilleure qualité, ce qui justifierait les investissements à tout prix. Ce risque existe, sous forme concentrée, chez le plus grand fabricant de puces au monde – dont la valeur est d’environ 5,3 billions de dollars, et qui est coté à un multiple de ventes de plus de 15. Cette semaine, cette valeur a diminué de quelques pourcent, en raison du ralentissement économique. Sa valeur est donc dépendante de la croissance des technologies de formation. Si le « ralentissement » est réel et structurel, c’est là le risque majeur.

L’autre pari est plus discret. C’est une question d’inference : le coût de répondre à une demande réelle, en constante augmentation et payée. L’argent se transfère clairement entre les parties concernées, et ce processus ne ralentit pas.

C’est un test que vous pouvez effectuer à la place de tentatives de prévoir soit une apocalypse, soit une bulle économique : observez où les fonds sont allés. Si OpenAI et ses concurrents continuent à investir des capitaux dans des exercices de formation toujours plus importants – plus de puissance informatique, plus d’infrastructures de stockage de données – alors le ralentissement est simplement une conséquence naturelle, et l’essor de la computation brute reprend. Mais si les laboratoires continuent à faire ce que cette annonce décrit vraiment, en orientant les chercheurs et les ressources informatiques vers des actions qui fonctionnent déjà, alors “c’est le bon moment pour ralentir” devient une réalité structurelle. Ce n’était jamais le cas de la technologie elle-même qui s’arrêtait… C’était plutôt l’industrie qui admettait, en silence, que ce qu’il valait la peine de poursuivre avait changé – du développement du prochain miracle à la rentabilité de ce qui fonctionne déjà.

Un titre qui parle d’un avenir qui pourrait nous tuer, ou un titre indiquant que les laboratoires cessent leurs activités, ne vous dit pas grand-chose sur le fait que les gens paient pour le présent. Observez les paiements et le coût par token. Les deux titres les plus effrayants de l’année indiquent un avenir sur lequel on ne peut rien faire. L’activité économique qui se cache derrière ces titres vous montre en réalité où se situe la demande.