Resyは自社の創業者を禁止した。それは正しいことだった。

ブライアン・ディステルバーガーは、Resyの共同創業者です。ですから、この夏のある日、彼がResyのアカウントが停止されていることに気づいたとき、その詳細には注意する必要があります。なぜなら、このシステムを作った人自身がその罠にかかってしまったからです。

その仕組みというのは、単なる物語に過ぎない。どうやら、ディステルバーガーは自分自身のAIエージェントを作り上げていたようだ。それは実験室での実験ではなく、家庭内で動いている存在であり、カレンダーの管理や子供たちの学校の手続き、メモの処理などを担当している。そのサブエージェントの一つは、Resyを使って、手に入りにくい木曜日の食事の予約をしていったのだ。つまり、デートの夜だったわけだ。

彼が忘れていたことが一つありました。それは、レート制限です。レート制限とは、ソフトウェアがサーバーに何度まで要求できるかの制限です。これがなければ、アプリケーションはResyに対して、まるで同じドアを何度も叩く機械のように振る舞うことになります。そうした場合、アプリケーションはResyを破壊してしまいます。Resyのセキュリティシステムは、単なる機械としてしか認識しないのです。リモコンを持った手は見逃されてしまいます。翌日、厳しい内容のメールが送られてきました。利用規約や「悪い行為」としての処理、アカウントの停止などです。彼はResyが始まってからずっと利用してきましたが、アメリカンエキスプレス・プラチナカードも20年以上使い続けていました。でも、それらは何の意味もありませんでした。彼は他の開発者にも警告しています。「ガードラインを設けろ。さもなければ…」偶然に結婚生活を台無しにしてしまう.

ここで明らかな教訓は、制限や規制のことです。リミット値やサンドボックスなどがそれにあたります。これがAI関係者が理解するべき点ですが、実際には正しい部分もあれば、完全に間違った部分もあります。遅くて、控えめなボットでも、やはりボットです。セキュリティシステムというのは、あなたが速すぎることを指摘する会計士ではなく、何かを検出する装置です。そして、その検出対象は一つだけです：人間です。

これが私の意味です。Resyのセキュリティがあるのは、ボットやブローカーがレストランに損害を与えるからです。Resyの予約データによると、疑わしいボットやブローカーの場合、キャンセル率は…通常の食事量の4倍——表を投機的に買い占めたり、再販売したりする人々は、レストランが夜を無駄にすることで悩む人々ではない。これが、ResyとTockが「レストラン予約反海賊行為法」を支持すると公に主張した時の論点である。レストランの許可なく予約を再販売するボットたちは、小規模企業に起こりがちな、欠席や遅刻によるキャンセル問題テーブルが空の状態にあるときは、アルゴリズムではなく、レストランが代金を支払うのです。そのため、このプラットフォームは、実際の客が見せないような行動を検知するフィルターを作りました。例えば、強引にサービスを求めたり、商品を再販したりするような行動です。これらの行動は、レストランの利益を気にしない人々の特徴です。

今、あなたが止まるべき部分です。そのフィルターは、自身の共同創設者に対しても機能しなかったのです。彼を認識できなかったのです。本来、そうであってはならないのです。システムが世界を認識する層——リクエストの量、タイミング、行動——においては、ディステルバーガーの食事計画を行うサブエージェントと、スカルパーのボットとの間に何の違いもありません。同じような処理、同じエンドポイント、同じ無意味さです。システムはそれらを区別できないのです。なぜなら、データの中にはその違いが存在しないからです。区別できる特徴は、意図です。つまり、アカウントの背後にいる人がいて、適切に行動し、レストランに喜ばしいことをするかどうかです。それはどのリクエストにも表現されていません。それは推測されるものであり、推測こそが問題を引き起こす原因です。

つまり、これは無実の人を不当に捕らえるような過剰なセキュリティ対策の結果ではありません。それは製品が本来の機能を果たしているからです。共同創業者が捕まったのは、彼が、その製品が排除する対象となる人物と同じ行動をするエージェントを作り出したからです。禁止措置は問題ではありません。禁止措置こそが製品の本質なのです。

混乱する点はタイミングです。今月の初めに、ResyとYelpがChatGPT内で利用可能になったOpenTableと同様に、このシステムも数ヶ月前からすでに統合されていました。今では、AIに頼ってレストランを探したり、利用可能な時間を比較したり、予約を依頼することができます。多くの人が共有している投稿によると、企業は今や2種類の顧客のために設計する必要があります——つまり、実際に食事をする人と、その人の代理者です。

それを、共同創業者に起こったことを思い出すきっかけにしてみましょう。このプラットフォームは、エージェントが利用できる正式な入り口を作っている一方で、既存の非公式のエージェントの利用を禁止しています。これは偽善ではありません。単に、その「入り口」が何のためのものかが不明確なだけです。予約用のゲートでは本当の問題は解決されません。不足しているのはインターフェースではなく、テーブルです。依然として誰かが損をします。エージェント制度も、割り当ての問題を変えるわけではありません。ただ、新しい形でそれが明らかになるだけです。私たちは20年間を費やしました。ボットからウェブサイトを守るための対策そして今、AIエージェントの全体的な仕組みは、意図的にそうした保護措置を無効にしているのだ。これについては、誰かが指摘しています。

ここが、私が驚きから心配に変わるところです。実際に、人が迅速に予約を取るのを得意にするためには何が必要か考えてみてください。それは速さではありません。知られているという状態が蓄積されることです。ホストに連絡を取り、店に来て、定期的に現れ、レストランに「自分はテーブルを確保してもらえる価値がある」と伝えることです。Resyを「完璧に活用した」食べ物評論家は、その点を正確に述べました。目標は、速さではなく、常連客になることです。あなたに味や幸せを与えることはできない彼はエージェントも利用したが、それを興味深い方法で制限していた。つまり、エージェントには、一日に数回だけ、自分が本当に好きな場所を予約するように指示しただけで、他の場所には予約しないようにしたのだ。この制限というのは、好みを表すための手段である。つまり、何の判断能力も持たない機械の中に、ある種の判断を植え付ける方法なのだ。

エージェント時代には一種の偏見があります。その偏見とは、あらゆる割り当て問題を「スピードの問題」として扱うということです。これは改善ではありません。自動化できることを使って、すばやく対応することを行う代わりに、自動化できないことを行うことになります。つまり、システムが望むようなゲストのような存在になってしまいます。そして、そのコストはプラットフォーム自身のデータからも明らかです。テーブルに到達する最速の方法とは、おそらくテーブルを空にする可能性が最も高い行動です。それこそがフィルターが拒否する対象です。この市場においては、スピードと望ましさは反対方向に働きます。一方の最適化は、他方の最適化を悪化させることになります。

次に、第二幕です。これは、何度も繰り返される出来事です。共同創業者はどうやって自分のアカウントを取り戻したのでしょうか？彼はより迅速なエージェントを送らなかった。彼は、利用できるあらゆる手段を使って何度も申し立てを行った。自分の努力が恥ずかしいほどだったと述べている。そして、アカウントが取り戻されたのは…彼はその違反を認めた。—それは、人間の行動によってのみ機能するものです。なぜなら、要するに人間が責任を負うからです。責任を自動的に負うことはできません。重要なのは、その「空白のリズム」です。禁止措置を引き起こした機械と、それを解除した行為とは、同じ機能が二方向で働いているということです。つまり、人間が存在しているかどうかを検出するということです。

そう言えば、そのエピソードがより理解しやすくなり、少し不気味にも感じられる。エージェントの時代には、人間性というものは希少な資源だった。つまり、監査される対象、禁止される対象、許可される対象というものだ。そして、その監査を行うシステムはそれを把握できない。彼らは行動から推測するだけで、その推測はあまりにも粗雑で、結果として、製品の創造者自身が自分のプラットフォームでデート予約をする際に問題にされてしまった。重要な資源――人間性、信頼、趣味――と、システムが実際に読み取れる信号との間のギャップは、これまでにないほど大きくなっている。なぜなら、初めて数十億もの自動化された相互作用が、その二つの間を通過しているからだ。

そのギャップこそが、実際に試されるべきものです。そして、これはレストランだけでなく、テーブルの予約やキャンプ場の利用、チケットの購入、医者の予約など、エージェントが手に入れることができるあらゆるものにも当てはまります。自分のためにエージェントが行うことについて尋ねてみてください。それによって、私は相手と交流する上でより良い人間になったか、それともそうではないかということです。テーブルを予約してくれるエージェントは問題ありません。しかし、レストランが喜んで受け入れるような常連客になるのを手助けしてくれるエージェントは、何か特別なことをしているのです。速さを重視するエージェントたちは、プラットフォームが選択を迫られる未来へと進んでいるのです。良い顧客として振る舞うエージェントたちは、システムが人間として扱ってくれるという、稀な状況へと向かっているのです。

これらが解決したと言える前に、確認したい点があります。つまり、どれだけ多くの普通の、合法的な顧客がこうしたフィルターに巻き込まれるのかということです。ここで言うのは、転売業者ではなく、単にエージェントを持っている人や、スクリプトを使っている人たちのことです。会社の共同創設者は、フォームメールを受け取っただけで、そのエージェントが何を間違えたのかについては何も情報がありませんでした。普通の顧客も同様です。第三者の予約ツールを使用したため、禁止されました。個人の便宜のために、同じ扱いを受けている。分母を公表しないということは、何かを示している。つまり、プラットフォーム側はそれを知りたくないのだ。データのギャップやビジネスモデルも同じ方向を示している。自分自身を説明できないシステムは、顧客が誰であるかについてのより良い証拠源として市場に出回ることになる。