Resy prohibió a su propio fundador. Estaba en lo correcto.

Brian Distelburger fue uno de los fundadores de Resy. Así que, cuando se despertó una mañana este verano y descubrió que su cuenta en Resy estaba suspendida, vale la pena prestar atención a los detalles, porque el hombre que creó esta plataforma acaba de quedar atrapado en esa situación.

El mecanismo es la historia en sí. Resulta que Distelburger había creado su propio agente de IA. No era un experimento de laboratorio: era un miembro activo de la familia, encargado de los asuntos relacionados con el calendario, las cosas escolares de los niños, las notas… Todo esto estaba hecho con componentes comunes y accesibles. Uno de sus subagentes se encargaba de buscar reservas para cenas en jueves, algo difícil de encontrar. En otras palabras, una noche romántica.

Se olvidó de una cosa: el límite de velocidad. Un límite de velocidad es un número máximo de veces que el software puede solicitar algo al servidor. Es como un controlador que evita que un usuario actúe como una máquina que repite la misma acción una y otra vez. Sin ese límite, el agente seguiría usando Resy de la misma manera en que alguien desesperado por obtener entradas para los partidos de los Knicks lo haría. El sistema de seguridad de Resy reconoció que se trataba de una máquina, pero no reconoció la mano que manejaba el control remoto. A la mañana siguiente, recibió un correo electrónico con instrucciones claras sobre las condiciones de uso, además de una acusación de “comportamiento inadecuado”. Su cuenta fue cancelada. Había utilizado Resy desde su lanzamiento, y también tenía una tarjeta American Express Platinum desde más de veinte años. Pero todo eso no importaba. Siempre había advertido a otros desarrolladores: “Establezcan sus límites, o podrían…”.Puede arruinarte accidentalmente el matrimonio..

La lección obvia aquí es sobre los límites y restricciones. Límites de uso, zonas de prueba, restricciones… Eso es lo que la gente que trabaja con inteligencias artificiales entenderá. Pero está casi correcto, pero también completamente equivocado. Un bot más lento y más moderado sigue siendo un bot. El sistema de seguridad no es algo que impide el uso del bot por ser demasiado rápido. Es un detector, y su función es detectar una cosa: a una persona.

Esto es lo que quiero decir. La seguridad de Resy existe porque los bots y los intermediarios dañan a los restaurantes. Los datos de reservas de Resy muestran que, entre los posibles bots y intermediarios, la tasa de no presentación de reservas era…cuatro veces más que los comensales normales.Las personas que compran mesas de forma especulativa o las revenden, no son las mismas personas que se preocupan por el hecho de que un restaurante desperdice una noche. Este es el argumento que Resy y Tock presentaron públicamente cuando apoyaron la Ley contra la piratería en la reserva de mesas: los bots que revenden las reservas sin el permiso del restaurante causan problemas.No aparecer en el evento o cancelaciones tardías que afectan a las pequeñas empresasCuando una mesa está vacía, es el restaurante quien paga, no el algoritmo. Por eso, la plataforma ha creado un filtro que detecta comportamientos que ningún cliente real mostraría: actitudes como golpear cosas, mantener cosas en posesión de otra persona, revender cosas… Son comportamientos propios de alguien que no se preocupa por el bienestar del restaurante.

Ahora, ese es el punto que debería hacer que te detengas. Ese filtro funcionó solo con su cofundador. No lo reconoció. Y no debería haberlo hecho. En la capa en la que el sistema ve el mundo: volúmenes de solicitudes, tiempos, comportamientos… no hay diferencia entre el subagente de planificación de cenas de Distelburger y el bot de compra de comida. Lo mismo se repite: los mismos puntos de acceso, lo mismo… Pero sin sentido alguno. El sistema no podía distinguirlos, porque esa distinción no existe en los datos que tiene. La característica distintiva es la intención: si hay una persona detrás de la cuenta que se presentará, se comportará bien y hará que el restaurante esté contento de tener esa mesa. Pero eso no se expresa en ninguna solicitud. Hay que inferirlo, y esa inferencia es lo que causa el problema.

Así que este no es un caso de seguridad excesiva que atrapa a alguien inocente. Es simplemente el producto haciendo su trabajo. El cofundador fue atrapado porque creó un agente que actúa exactamente como las personas a las que el producto está destinado a excluir. La prohibición no es el problema; la prohibición es el producto en sí.

Lo confuso es el momento en que ocurre todo. A principios de este mes…Resy y Yelp se pusieron en funcionamiento dentro de ChatGPT.Siguiendo el modelo de OpenTable, que ya estaba integrado desde meses atrás, ahora se puede pedir a una IA que encuentre un restaurante, compare la disponibilidad y realice la reserva, todo dentro de la conversación. Un post ampliamente compartido resumió la nueva situación: las empresas ahora deben diseñar productos para dos clientes: el cliente humano y el agente del cliente humano.

Que eso quede como un ejemplo de lo que acabó ocurriendo con el cofundador. La plataforma está creando una “puerta oficial” para que los agentes puedan pasar por ella, al mismo tiempo que prohíbe a los agentes no oficiales que ya están en la plataforma. Eso no es hipocresía, exactamente. Es simplemente confusión sobre para qué sirve esa “puerta”. Una puerta de reservas no resuelve el problema real; lo que falta no es la interfaz, sino la mesa. Alguien sigue perdiendo dinero. La era de los agentes no cambia el problema de asignación; simplemente lo hace visible de una manera nueva. Hemos pasado veinte años…Fortalecer los sitios web contra botsY ahora, la idea fundamental de los agentes de IA está destruyendo esas protecciones, intencionadamente, como señaló alguien después de todo esto.

Aquí es donde paso de estar sorprendido a preocuparme. Piense en lo que realmente hace que alguien sea bueno para conseguir reservas difíciles. No es la velocidad. Es la red de relaciones que se construye con el anfitrión: llamarle, llegar puntualmente, aparecer de forma consistente, hacer que el restaurante sepa que vale la pena reservar un lugar para uno. Una escritora de gastronomía que logró “perfeccionar” Resy señaló exactamente eso: el objetivo pasó de ser ser rápido a ser una cliente frecuente.No puedo darte sabor ni felicidad.Utilizó también un “agente”, pero lo restringió de una manera interesante: le dijo que solo debía reservar sus lugares favoritos, un par de veces al día, en lugar de cualquier lugar que pudiera elegir. Esta restricción sirve como indicador del gusto personal. Es una forma de introducir un criterio de juicio dentro de algo que en realidad no tiene ningún tipo de criterio.

La era de los agentes tiene un sesgo: ese sesgo es el de tratar cada problema de asignación como un problema de velocidad. Eso no es una mejora. Es simplemente una sustitución de lo que se puede automatizar –pedir rápidamente– por lo que no se puede automatizar… Es decir, por el tipo de cliente que el sistema quiere mantener. Y se puede ver el costo en los datos propios de la plataforma: la forma más rápida de llegar a una mesa es aquel comportamiento que más probablemente la deje vacía… Ese es precisamente el tipo de comportamiento que los filtros intentan evitar. La velocidad y la deseabilidad van en direcciones opuestas en este mercado. La optimización en una dirección daña la otra.

Ahora, el segundo acto… Porque ese es el momento en que las situaciones se repiten una y otra vez. ¿Cómo logró el cofundador recuperar su cuenta? No envió a ningún agente para ayudarlo. Presentó solicitudes de apelación, una y otra vez, a través de todos los canales que pudo encontrar. Su persistencia fue, sin duda, algo embarazoso. Y la cuenta volvió a estar disponible solo después de…Él reconoció la violación.Es un paso que solo puede realizarse como acto de una persona; el punto clave es que la persona es quien debe asumir la responsabilidad. No se puede automatizar el hecho de asumir esa responsabilidad. Lo importante es el ritmo vacío de ese proceso: la máquina que provocó la prohibición, y el reconocimiento que la anuló, realizan la misma función, pero en dos direcciones diferentes: detectar si hay una persona presente.

Si lo expresamos de esa manera, el episodio se vuelve más comprensible… y también un poco inquietante. En la era de los agentes, la personalidad humana es un recurso escaso: aquello que está siendo auditado, aquello que puede hacer que te seas bloqueado o que te desbloquees. Pero los sistemas que realizan las auditorías no pueden verlo directamente. Lo deducen a partir del comportamiento, pero su deducción es tan inexacta que lograron detectar al propio creador del producto, mientras él reservaba citas para noches especiales en su propia plataforma. La brecha entre los recursos importantes –la personalidad, la confianza, el gusto– y las señales que los sistemas pueden leer nunca ha sido tan grande, porque por primera vez hay miles de millones de interacciones automatizadas que fluyen entre estos dos conceptos.

Esa brecha es el “prueba” que vale la pena superar. Esta situación se aplica no solo en los restaurantes, sino también en las citas médicas, los boletos, etc. Pregúntale al agente todo lo que hace por ti: ¿esto me hace una persona mejor para las personas con quienes trato, o más bien menos? Un agente que reserva un lugar para ti está bien. Pero un agente que te ayuda a ser una cliente habitual, algo que un restaurante estaría contento de tener, está haciendo algo importante. Los agentes que intentan ganar por velocidad están construyendo hacia un futuro en el que las plataformas, obligadas a elegir, simplemente crearán herramientas aún más eficientes. Los agentes que actúan como buenos clientes están construyendo hacia algo raro: ser tratados como personas por sistemas que no pueden distinguir entre ellos y los demás.

Hay un detalle que quiero saber antes de considerar que todo está resuelto: ¿cuántos clientes comunes y legítimos se ven involucrados en estos procesos? No se trata de revendedores, sino de personas que tienen un agente, o incluso un “script” para gestionar las transacciones. El cofundador de la empresa recibió un correo electrónico con información general, pero sin detalles sobre qué había hecho mal su agente. Un cliente común…Prohibido el uso de herramientas de reservas de terceros.Por conveniencia personal, se da el mismo trato. Nadie publica el denominador; eso ya dice todo por sí mismo: las plataformas prefieren no saberlo. La brecha en los datos y el modelo de negocio apuntan hacia la misma dirección. Un sistema que no puede explicarse a sí mismo a su propio cofundador es un sistema en el mercado, con una mejor fuente de información sobre quiénes son sus clientes.