Resy hat seinen eigenen Gründer verboten. Das war richtig.

Brian Distelburger war einer der Gründer von Resy. Deshalb ist es wichtig, auf die Details zu achten, wenn er eines Sommermorgens feststellt, dass sein Resy-Konto gesperrt ist – schließlich hat der Mann, der das System entwickelt hat, selbst darin gefangen gehalten.

Der Mechanismus ist die Geschichte selbst. Es stellt sich heraus, dass Distelburger sich einen persönlichen KI-Agenten geschaffen hat. Nicht ein Laborexperiment – sondern ein „lebendiges“ Mitglied der Familie, das für die Planung des Kalenders, die Schularbeiten der Kinder sowie die Aufzeichnungen zuständig ist. Dabei werden die Komponenten aus alltäglichen, vorhandenen Teilen zusammengesetzt. Einer seiner Unteragenten überwachte dabei die Reservierungen für Abendessen am Donnerstag. Mit anderen Worten: eine Date-Nacht.

Er vergaß eine Sache: die Rate-Limit-Funktion. Eine Rate-Limit-Funktion ist eine Begrenzung der Anzahl der Anfragen, die das Softwareprogramm an den Server stellen darf – ein „Throttle“, der verhindert, dass das Programm immer wieder dieselbe Anfrage stellt. Ohne diese Funktion würde das Programm wie eine Maschine wirken, die ununterbrochen dieselbe Anfrage stellt. Am nächsten Morgen erhielt er eine streng formulierte E-Mail mit Bedingungen für die Nutzung des Services, sowie die Information, dass sein Account gesperrt wurde. Er hatte seit der Einführung von Resy regelmäßig genutzt – und hatte außerdem seit über zwanzig Jahren eine American Express Platinum-Karte. Doch das spielte keine Rolle. Er warnte andere Entwickler davor: Setzen Sie Ihre Grenzen – sonst könnten Sie in Schwierigkeiten geraten.Man kann versehentlich die Ehe zerstören..

Die offensichtliche Lektion hier ist bezüglich der „Schutzmaßnahmen“. Rate Limits, Sandboxes – das sind die Maßnahmen, die die KI-Entwickler anwenden werden. Das ist zwar fast richtig, aber auch völlig falsch. Ein langsamer, besserer Bot ist trotzdem immer noch ein Bot. Das Sicherheitssystem ist keine Art von Buchhalter, der Sie dafür bestraft, dass Sie zu schnell handeln. Es ist vielmehr ein Detektor, der versucht, etwas zu erkennen: eine Person.

Das ist es, was ich meine. Die Sicherheit bei Resy besteht darin, dass Boten und Broker den Restaurants schaden. Die Reservierungsdaten von Resy zeigen, dass unter den verdächtigen Boten und Brokern die Rate der Nichterreichung sehr hoch war.Viermal höher als die normale Anzahl der Gäste.Die Leute, die Tische spekulativ nutzen oder sie weiterverkaufen, sind nicht diejenigen, die sich Sorgen machen, dass ein Restaurant einen Abend verschwendet. Das ist der Argumentationsansatz, den Resy und Tock öffentlich vorgebracht haben, als sie die „Restaurant Reservation Anti-Piracy Act“ unterstützten: Bots, die Reservierungen ohne Erlaubnis des Restaurants weiterverkaufen, führen dazu, dass…Abwesenheiten und verzögerte Absagen, die kleine Unternehmen treffenWenn ein Tisch leer ist, zahlt das Restaurant – nicht der Algorithmus. Deshalb hat die Plattform einen Filter entwickelt, der auf Verhaltensweisen achtet, die kein echter Gast je zeigen würde: Manipulationen, Weitverkauf von Getränken usw. Das sind Verhaltensweisen von Menschen, denen das Wohlergehen des Restaurants nichts ausmacht.

Jetzt kommt der Teil, der Sie dazu bringen sollte, aufzuhören. Das Filter-System funktionierte nur auf seinem eigenen Mitgründer. Es erkannte ihn nicht. Und das sollte auch nicht möglich sein. In dem Bereich, in dem das System die Welt betrachtet – Anzahl der Anfragen, Zeitplan, Verhalten – gibt es keinen Unterschied zwischen Distelburgs Subagent für die Planung von Essen und dem Bot eines Scalpers. Derselbe Prozess, dieselben Endpunkte, dieselbe Bedeutungslosigkeit. Das System konnte sie nicht unterscheiden, denn die Unterscheidung existiert nicht in den Daten, die es hat. Der entscheidende Faktor ist die Absicht: Ob hinter der Account-Eigenschaft eine Person steht, die sich gut verhält und dazu beiträgt, dass das Restaurant froh ist, dass die Tischreservierung erfolgt ist. Das wird in keiner Anfrage ausgedrückt. Es muss eruiert werden – und genau das ist es, was das System zerstört.

Es handelt sich also nicht um einen Fall von überzogenen Sicherheitsmaßnahmen, die eine Unschuldige ins Verderben bringen. Es ist einfach das Produkt, das seine Aufgabe erfüllt. Der Mitgründer wurde erwischt, weil er ein Tool entwickelt hat, das genauso funktioniert wie die Personen, die das Produkt dazu da ist, auszusortieren. Die Verbote sind nicht der Fehler – die Verbote sind das Produkt selbst.

Das Verwirrende ist die Zeitabstände. Anfangs dieses Monat…Resy und Yelp sind nun in ChatGPT integriert.Nachdem OpenTable bereits seit Monaten integriert wurde, kann man jetzt eine KI bitten, ein Restaurant zu finden, die Verfügbarkeit zu vergleichen und eine Buchung vorzunehmen – alles innerhalb einer einzigen Konversation. Eine weit verbreitete Bewertung fasste den neuen Zustand zusammen: Unternehmen müssen nun für zwei Kunden entwickeln – den menschlichen Gast und den Agenten des menschlichen Gastes.

Lassen wir das einfach so stehen – neben dem, was gerade mit dem Co-Founder passiert ist. Die Plattform baut eine offizielle Tür für Agenten, durch die diese hindurchgehen können. Gleichzeitig wird auch der unoffizielle Agentenkreis verboten. Das ist nicht gerade Heuchelei – es handelt sich vielmehr um Verwirrung darüber, wofür die Tür eigentlich dient. Eine Buchungsstelle löst das eigentliche Problem nicht – es ist nicht das Interface, das fehlt, sondern der Tisch. Jemand verliert trotzdem etwas. Die Ära der Agenten ändert das Problem der Zuweisung nicht – sie macht es nur auf eine neue Weise sichtbar. Wir haben zwanzig Jahre damit verbracht…Verstärken von Webseiten gegen BotsUnd jetzt zerstört die gesamte Grundlage der KI-Agenten absichtlich diese Schutzmaßnahmen – wie jemand bereits angemerkt hat.

Hier komme ich von der Überraschung zu Besorgnis. Denken Sie darüber nach, was wirklich dazu führt, dass jemand gut darin ist, eine Reservierung zu erhalten. Es ist nicht die Geschwindigkeit – es ist vielmehr das Netzwerk der Bekanntheit: Anrufe an den Gastgeber, regelmäßige Ankünfte, das zeigen, dass man wertvoll genug ist, um einen Tisch zu bekommen. Eine Food-Bloggerin, die Resy „perfektioniert“ hat, hat genau das gesagt: Das Ziel hat sich von der Geschwindigkeit auf die Regelmäßigkeit verändert – und von einem Boten.Ich kann dir keinen Geschmack oder Glück geben.Er benutzte auch einen Agenten – aber er begrenzte dessen Funktion auf eine interessante Weise: Der Agent sollte nur die Orte bestimmen, die er wirklich mochte, ein paar Mal am Tag – und nicht überall dort, wo es möglich wäre. Diese Begrenzung ist eine Art „Proxy“ für Geschmack. Es handelt sich dabei um eine Möglichkeit, Urteilsfähigkeit in einer Maschine einzurichten, die eigentlich keine Urteilsfähigkeit hat.

Die Agenten-Ära weist einen Bias auf – und dieser Bias besteht darin, alle Allokationsprobleme als „Schnelligkeitsprobleme“ zu betrachten. Das ist keine Verbesserung. Es handelt sich vielmehr um eine Ersatzlösung: Anstatt das, was automatisiert werden kann – also die schnelle Antwort auf Fragen – zu nutzen, wird stattdessen das, was nicht automatisiert werden kann – also das, was ein System gerne behält – verwendet. Man kann den Preis dafür in den Daten der Plattform erkennen: Der schnellste Weg zu einer Tabelle ist das Verhalten, bei dem die Tabelle am ehesten leer bleibt – und genau das ist das, was die Filter verhindern wollen. In diesem Markt gehen Schnelligkeit und Beliebtheit entgegengesetzten Richtungen. Optimierung in einer Richtung führt dazu, dass die andere Richtung schlechter wird.

Jetzt der zweite Akt – denn das ist der Teil, in dem die Nachrichten schnell übermittelt werden. Wie bekam der Co-Founder sein Konto zurück? Er schickte keinen Agenten, der schneller handelte. Er reichte immer wieder Beschwerden ein, über alle verfügbaren Kanäle hinweg – seine Beharrlichkeit war dabei ziemlich peinlich. Das Konto wurde erst zurückgegeben, nachdem er so viel Zeit investiert hatte.Er erkannte die Verletzung an.Es handelt sich dabei um eine Handlung, die nur von einem Menschen ausgeführt werden kann – schließlich liegt die Aufgabe darin, dass der Mensch die Verantwortung übernimmt. Es ist nicht möglich, die Verantwortung automatisch zu übernehmen. Der „leere Rhythmus“ dieser Situation ist entscheidend: Die Maschine, die die Verbote auslöste, und das Erkennen dessen, was die Verbote aufhebt, erfüllen dieselbe Funktion – sie überprüfen, ob eine Person vorhanden ist.

Wenn man es so ausdrückt, wird die Situation verständlicher – und auch etwas beunruhigend. In der Ära der Agenten ist die Persönlichkeit ein knapper Ressourcenpool: Das, was überprüft wird, das, was dazu führt, dass jemand gesperrt wird oder freigegeben wird. Die Systeme, die diese Überprüfungen durchführen, können diese Persönlichkeit nicht sehen. Sie schließen sie aus dem Verhalten ab – und ihre Schlussfolgerungen sind so unpräzise, dass dadurch der eigene Schöpfer des Produkts identifiziert wurde, obwohl er auf seiner eigenen Plattform Tipps für Dateabende buchte. Der Unterschied zwischen den wichtigen Ressourcen – Persönlichkeit, Vertrauen, Geschmack – und den Signalen, die die Systeme tatsächlich erkennen können, ist noch nie so groß gewesen. Denn zum ersten Mal gibt es Milliarden von automatisierten Interaktionen, die zwischen diesen beiden Ressourcen stattfinden.

Dieser „Spalt“ ist der Test, den man durchstehen muss – und er gilt nicht nur für Restaurants, sondern auch für Tischreservierungen, Campingplätze, Tickets, Arzttermine usw. Alles, was ein Agent für einen Kunden tun kann, sollte überprüft werden: Macht das einen Menschen, mit dem man handelt, zu einer besseren Person – oder weniger? Ein Agent, der einen Tisch reserviert, ist in Ordnung. Doch ein Agent, der einem hilft, der Art von Kunde zu sein, der ein Restaurant gerne aufnimmt, tut etwas Besonderes. Die Agenten, die versuchen, durch Geschwindigkeit zu gewinnen, entwickeln sich in eine Zukunft, in der die Plattformen gezwungen sind, nur noch größere „Hämmer“ zu bauen. Die Agenten, die wie gute Gäste handeln, entwickeln sich hin zu etwas Seltenerem: Als Personen behandelt zu werden von Systemen, die nicht wissen, wer man ist.

Es gibt eine Details, die ich vorher wissen möchte, bevor ich das alles als abgeschlossen betrachte: Wie viele normale, legitime Kunden werden in diese Filter hineingezogen – nicht die Vermarkter, sondern einfach Leute, die einen Agenten oder sogar einen „Script“ haben. Der Co-Gründer des Unternehmens erhielt eine E-Mail mit einer Formulierung, aber keine konkreten Informationen darüber, was sein Agent falsch gemacht hat. Ein gewöhnlicher Kunde…Verbannt wegen der Verwendung eines Drittanbieter-Buchungstools.Für persönliche Bequemlichkeit wird dieselbe Behandlung erhalten. Niemand veröffentlicht den Nenner – doch das sagt bereits etwas aus: Die Plattformen möchten ihn eigentlich nicht selbst kennen. Der Datenunterschied sowie das Geschäftsmodell weisen in die gleiche Richtung. Ein System, das sich nicht selbst gegenüber seinen Mitgründer erklären kann, ist ein System auf dem Markt – und zwar als eine bessere Quelle für Informationen darüber, wer seine Kunden sind.