L’expérience de confiance d’Anthropic : l’histoire réelle derrière la nomination de Cuéllar

Devraient un groupe de personnes contrôler la technologie la plus puissante du monde ? Cette question existe depuis l’apparition des premiers grands modèles linguistiques. Les dernières actions d’Anthropic indiquent qu’ils ont décidé que la réponse est « oui », mais sous la supervision de personnes qui n’ont jamais possédé de parts dans l’entreprise.

En janvier de cette année, l’entreprise de IA a nommé Mariano-Florentino Cuéllar à sa tête.Fonds à rendement à long termeC’est l’organisme de gouvernance indépendant qui choisit les membres du conseil d’administration d’Anthropic et donne des conseils au dirigeant de l’entreprise. M. Cuéllar, ancien juge à la Cour suprême de Californie et actuel président de la Carnegie Endowment for International Peace, possède une expérience en matière de droit, d’institutions publiques et de politiques transfrontalières. Il remplace deux fondateurs du fonds, Kanika Bahl et Zachary Robinson, qui ont créé le fonds à partir de zéro après sa mise en place en 2023. Cette nomination a été suivie par une autre personne appartenant à un autre registre : le mois dernier, le fonds a intégré Ben Bernanke, ancien président de la Fed et lauréat du prix Nobel.

L’article qui décrit M. Cuéllar comme le premier « chef des affaires mondiales » d’Anthropic est incorrect. Ce poste appartient à Michael Sellitto, chef des affaires mondiales d’Anthropic et ancien conseiller en cybersécurité au Conseil de sécurité nationale. La place de M. Cuéllar fait partie d’un groupe de cinq personnes qui ne sont pas liées financièrement à Anthropic. Ils ne possèdent aucune action dans l’entreprise, ne participent à aucun bénéfice et sont rémunérés uniquement pour leur temps. Cependant, leur autorité n’est pas purement consultative : le fonds peut nommer jusqu’à trois des cinq membres du conseil d’administration d’Anthropic. Le but est de parvenir à un contrôle majoritaire au sein du conseil d’administration dans les quatre années suivant sa création.

Le point structurel est important à examiner. Anthropic, une société par actions de Delaware, a mis en place un mécanisme de gouvernance qui cherche à isoler les décisions relatives aux systèmes d’IA puissants des pressions habituelles du capitalisme des actionnaires. Ce mécanisme est inscrit dans les documents d’investissement de la société lors de son financement de série A – ce qui est rare pour une start-up soutenue par des investissements privés. Les membres de la société possèdent des actions de classe T spéciales, ce qui leur permet de voter au conseil d’administration sans avoir de participation économique. Les nouveaux administrateurs sont choisis par les administrateurs existants, en consultation avec la société. L’objectif, comme l’a défini Dario Amodei, cofondateur d’Anthropic, est de garantir que les décisions relatives au développement de systèmes d’IA puissants restent alignées sur l’intérêt public, même lorsque les incitations commerciales à court terme les poussent dans une autre direction.

Bien sûr, l’expérience est encore incertaine. À la fin de l’année 2025, le fonds de confiance n’a rempli qu’un seul des trois postes de direction disponibles, selon les analyses effectuées sur le Longterm Wiki, un site de recherche qui suit les mécanismes de gouvernance en matière d’IA. Ce début lent laisse ouverte la question de savoir si le fonds de confiance sera une simple caractéristique decorative ou un facteur de contrôle efficace. Les nominations de M. Cuéllar et M. Bernanke, ainsi que de Richard Fontaine du Centre for a New American Security et de Neil Buddy Shah, qui préside le fonds de confiance, indiquent que cela se dirige vers ce dernier. La liste des membres du conseil d’administration ressemble plutôt à celle d’anciens régulateurs, juges et architectes en matière de sécurité, et non à celle de volontaires dévoués à l’altruisme. Le signal est clair : à mesure que l’entreprise grandit, la série de contrôles exercés par elle devient plus sérieuse.

Le timing n’est pas fortuit. En mai, Anthropic a fermé65 milliards de dollars de financement dans le cadre de la série H, pour une valeur post-money de 965 milliards de dollars.Le revenu annuel de l’entreprise a dépassé les 47 milliards de dollars. Trois semaines plus tard, le 1er juin, l’entreprise a soumis secrètement un projet de déclaration d’enregistrement S-1 à la Commission des valeurs mobilières. C’était le premier laboratoire d’IA à entamer officiellement le processus d’IPO. Une cotation en bourse transformerait les incitations liées à l’entreprise en quelques heures à peine. Les actionnaires publics se soucient des rendements, des résultats trimestriels et de la valorisation des actions. Ce sont les mêmes pressions contre lesquelles l’entreprise devait se protéger.

C’est la vraie question qui se cache derrière cette annonce concernant le personnel. Une entreprise indépendante, sans intérêts financiers, peut-elle résister à un conseil d’administration et à une équipe de direction qui doivent rapidement répondre aux exigences du marché boursier en matière de croissance, d’expansion des marges et de rapidité de mise en œuvre des projets ? La littérature académique donne un nom à ce phénomène : l’érosion amorale. Les professeurs Oliver Hart et Luigi Zingales de Harvard l’appellent l’érosion lente des missions sociétales sous la pression du marché. Leur analyse a été rédigée en tenant compte d’OpenAI – le drama lié au licenciement et à la réintégration de Sam Altman montre à quel point les alliances entre investisseurs et fournisseurs peuvent remplacer les engagements déclarés par le conseil d’administration. Un chapitre publié dans la Harvard Law Review en 2025 a étendu cette idée à Anthropic, affirmant que même les droits des actionnaires affaiblis ne suffisent pas à empêcher l’érosion des missions sociétales lorsque les forces externes exercent leur propre pouvoir de persuasion.

Le problème n’est pas que la société de fiducie ne dispose pas d’autorité. C’est plutôt que l’autorité sans pouvoir de mise en œuvre est en grande partie purement formelle. Les documents de gouvernance de la société de fiducie peuvent être modifiés par une majorité des actionnaires, ce qui crée un mécanisme potentiel de contrôle. La société de fiducie ne contrôle pas le PDG. Elle ne fixe pas les prix, ni les stratégies de développement des produits. Son rôle déclaré est d’intervenir dans des situations extrêmes – pour s’assurer que les dirigeants évaluent les futurs modèles en fonction des risques catastrophiques, ou pour garantir que les entreprises maintiennent une sécurité au niveau des États-nations, plutôt que de chercher à se vendre à tout prix. Ce sont justement ces moments où la pression commerciale serait la plus forte, et où un administrateur financièrement indépendant pourrait se retrouver isolé.

Il y a aussi une dimension politique. Anthropic a choisi délibérément de résister au style de lobbying dominant dans la Silicon Valley. L’entreprise a refusé d’accepter les conditions du contrat avec le Pentagone en avril dernier, ce qui a conduit le département de la défense à qualifier cela de « risque lié aux chaînes d’approvisionnement ». L’entreprise a été soumise à des contrôles d’exportation concernant son modèle Mythos après qu’un problème de “jailbreak” a été découvert. M. Amodei a été qualifié de « menteur » et de « fou idéologique » par les hauts fonctionnaires de l’administration Trump. M. Trump lui-même a décrit l’entreprise comme étant composée de personnes…“Des idiots de la gauche”La réponse de l’entreprise a été de renforcer encore son engagement en matière de sécurité : elle a donné 20 millions de dollars à une organisation non gouvernementale chargée de promouvoir les politiques liées aux IA, et a affirmé publiquement que le gouvernement…Ne fait pas assez pour réguler.AI. Cette posture a gagné la loyauté des ingénieurs et de certains clients d’entreprise. Elle a également fait de l’entreprise une cible pour les attaques.

Pour les investisseurs concernés par l’IPO à venir, la crédibilité de la société de gestion sera une question de gouvernance mentionnée dans le prospectus, et non simplement une déclaration de mission sur le site web. Si la société de gestion est capable de limiter les décisions qui privilégient la rapidité au détriment de la sécurité, c’est un avantage : cela réduit les risques liés aux réactions réglementaires, aux échecs catastrophiques ou à la perte de confiance des investisseurs. Mais si elle ne le est pas, c’est un problème : un mécanisme qui fait naître des attentes irréalistes, ce qui peut entraîner des enquêtes de la part des activistes ou des litiges entre actionnaires en cas d’erreur.

La composition actuelle du conseil d’administration est un pas dans la bonne direction. Le parcours de M. Cuéllar couvre trois administrations présidentielles, une période au tribunal suprême de Californie, ainsi que la direction d’une importante institution de politique internationale. M. Bernanke a travaillé pendant huit ans à la Réserve fédérale et possède une grande expertise en matière de risques économiques systémiques. M. Fontaine dirige depuis longtemps l’un des think tanks les plus influents en matière de défense à Washington. L’assoition de personnes qui ont occupé des postes dans des institutions réelles, plutôt que de simples conseillers extérieurs, renforce la crédibilité du conseil d’administration auprès des régulateurs, des gouvernements et des investisseurs du marché public.

Mais la crédibilité n’est pas synonyme de mise en œuvre effective des décisions prises. La véritable épreuve viendra lorsque le fonds sera invité à refuser une proposition. Est-il capable de résister à la pression des investisseurs qui pourraient favoriser des applications plus rentables, mais moins sûres ? Est-il capable de rester ferme face à la pression des prix qui pourrait pousser Claude à développer des applications moins sûres, mais plus rentables ? La réponse à ces questions déterminera si le Long-Term Benefit Trust représente une véritable innovation dans la gouvernance d’entreprise, ou si c’est simplement une comédie bien conçue.

Les Luddites avaient tort en ce qui concerne les machines à long terme, mais pas quant au douloureux processus de transition. La question pour l’Anthropic est de savoir si elle a construit des institutions suffisamment solides pour gérer cette transition sans perdre son sang-froid. Les nouveaux membres de la société fiduciaire pourraient penser qu’elle le fait. Le marché, tôt ou tard, découvrira la vérité.