La « inondation d’IA » gouvernementale est une demande ancienne, dépassée par les coûts engagés.

Une nouvelle étude, qui, dans la plupart des titres de presse, ressemble à une histoire de sécurité, est en réalité, si on l’écrit avec attention, une histoire économique. Les chercheurs ont étudié un phénomène qu’ils appellent “agentic flooding” : l’IA permettant des pics soudains dans les demandes adressées aux services publics.84 cas dans 11 juridictionsDes demandes de prestations sociales et des appels juridiques à des demandes de liberté d’information.69 % de ces cas, les fonctionnaires eux-mêmes ont attribué l’augmentation à l’IA.Ça ressemble à une attaque. Voici ce qui fait que ce n’est pas une attaque :Dans 87 % des cas, les inondations sont causées par des personnes ordinaires qui insèrent du texte généré par l’IA dans les formulaires..

Pas de réseaux de bots. Pas de serveurs piratés. Seulement des demandeurs, des plaignants et des parties en conflit qui ont soudain découvert que ce qu’ils devaient déjà recevoir était maintenant facile à obtenir.

Ce que l’IA a en réalité supprimé

La manière la plus simple de le comprendre est en utilisant un chiffre en anglais. Les plaintes adressées au médiateur du logement au Royaume-Uni ont plus que doublé après l’arrivée de ChatGPT ; elles sont passées de…Environ 2 600 en 2022, pour plus de 7 000 l’an dernier.. Les plaintes concernant les services financiers pour les consommateurs aux États-Unis ont augmenté de cinq fois au cours de la même période., etLes tribunaux sociaux allemands blâment l’IA pour une augmentation de 55 % du nombre de dossiers à traiter par rapport à l’année précédente.Ce qu’ils ont en commun, c’est que ce ne sont jamais des gestes vains – il s’agit de personnes qui ont des droits réels, et qui ont désormais un avocat à leurs côtés. L’étude divise cette situation en deux catégories, et les deux catégories sont significatives.90 % des cas étaient des inondations de type « qualitatif » : le même ou moins de personnes, mais chaque dossier était plus long et plus complexe sur le plan juridique. 60 % étaient des inondations de type « quantitatif » : plus de personnes impliquées.La moitié des cas étaient les deux.

Lisez le mécanisme qui se trouve en dessous, et les véritables raisons apparaissent. Le facteur qui empêchait l’accès à ces services n’était jamais lié à une véritable pénurie de cas dignes d’être traités. C’était…friction administrativeLes connaissances juridiques, la mise en forme des informations, les coûts psychologiques liés à l’affrontement avec la bureaucratie… Tous ces facteurs contribuaient à créer une situation de rationnement. C’est comme un poste de péage : lorsque un LLM réduit le coût de passage à presque zéro, la demande latente qui était toujours présente se manifeste alors. Cette “inondation” n’est pas une nouvelle demande ; c’est simplement une demande ancienne qui a finalement réussi à franchir le seuil délimité.

C’est la partie qui mérite d’être prise en compte, car cela indique que l’augmentation est structurelle, et non une simple fluctuation. Dans la plupart des cas, il n’y avait aucun signe de ralentissement. Il s’agit donc d’une courbe de demande en mouvement, et non d’un événement isolé.

Qui est contraint de l’absorber

Maintenant, il s’agit de nommer l’acteur forcé… Car c’est là que se trouve le problème financier. Une agence gouvernementale ne peut pas ignorer une plainte, une demande ou une requête selon les règles FOIA – il y a un délai légal qui s’applique. Ainsi, à mesure que le nombre de cas augmente, les services chargés du traitement de ces demandes doivent faire face à cette augmentation de coûts avec un budget fixe. Les coûts liés aux inondations ne pèsent pas sur les personnes qui ont soumis la demande ; ils pèsent sur le bilan financier, et ce dernier est juridiquement interdit de refuser.

Cette contrainte est précisément ce qui fait que c’est une question pour les investisseurs, et non simplement un écrit de réflexion. Lorsque le coût marginal de traitement des demandes diminue, mais que la couche de traitement est juridiquement obligée d’accepter toutes les demandes, une part durable et croissante de la valeur se déplace vers cette “couche intermédiaire” qui se trouve entre le citoyen en colère et la décision à prendre. L’étude indique déjà un signe de cette déplacement :Environ un quart des agences étudiées ont commencé à utiliser discrètement des outils d’IA pour traiter les données.La demande en elle-même est le résultat de l’aide apportée par l’IA.

Ainsi, le secteur bénéficiaire n’est pas ces “conversations IA” qui apparaissent en première page des communiqués de presse. C’est plutôt la couche de détection et d’absorption – les systèmes qui identifient les complexités anormales, les orientent et éliminent les encombrements légaux – ainsi que la couche de vérification. Pensez à cette dernière couche dans le domaine de la cryptographie : le même problème a un nom et une décennie d’expérience : le problème de sybil. Lorsque la génération de texte de qualité humaine devient effectivement gratuite, l’input rare ne concerne plus des mots, mais…Preuve qu’une personne réelle ayant une besoin réel se trouve derrière eux.L’identité et la preuve d’humanité ne sont plus des simples cases à cocher, mais deviennent un actif économique réel. C’est un objet économique vraiment nouveau – une taxe que le flot lui-même a créée, car l’ancien poste de péage n’existe plus.

Les pièges que les gouvernements tentent de saisir

Il y a un risque réel dans cette histoire, et ce n’est pas le déluge en soi. C’est la réaction face à celui-ci. Le système de saisie sans friction est nouveau, mais l’instinct qu’il provoque est ancien. Les réactions initiales sont donc des méthodes simples et directes.L’Australie a réintroduit des frais pour les demandes de FOI.Pour décourager cette vague ;Le Japon a bloqué tout le processus de commentaire en fonction de l’adresse IP.Les frais, les restrictions et les barrières sont précisément le genre de mesures qui punissent les utilisateurs légitimes, moins compétents en matière de technologie numérique, bien plus que celles qui empêchent les utilisateurs déterminés de faire ce qu’ils veulent. Si les gouvernements utilisent ces mesures, ils ne défendent rien du tout – ils réparent simplement l’infrastructure informatique qui a été détruite, et renforcent encore davantage cette inefficacité qui est à l’origine des problèmes soulevés.

C’est la variable à surveiller, et il s’agit davantage d’une décision politique que d’un point de données. L’étude elle-même évite de aller trop loin, en admettant cela.On ne peut pas prouver que l’IA est la cause de tous ces sursauts, même là où les fonctionnaires affirment qu’elle en est la cause.Mais le schéma est suffisamment clair pour être expliqué simplement : la contrainte pour ces systèmes n’a jamais été liée à la capacité de traitement, mais plutôt au coût lié à l’utilisation de ces systèmes. Ce coût est désormais éliminé. Les gagnants permanents seront ceux qui peuvent traiter et vérifier les données de manière fiable, sans avoir besoin de facturer aux utilisateurs de frais supplémentaires. Les perdants, quant à eux, seront ceux qui confondent leur propre système de traitement avec une forme de sécurité.