El fiasco de la máquina expendedora: por qué la IA aún no dominará el mundo

Durante años, la narrativa dominante en torno a la inteligencia artificial ha alternado entre la fascinación futurista y el pánico existencial. Nos preocupa que los algoritmos tomen decisiones corporativas, reemplacen puestos de liderazgo o administren infraestructuras críticas o bien con una guerra contra los seres humanos como en Terminator.

Sin embargo, un experimento reciente realizado por el propio equipo de prueba de estrés (red team) de Anthropic vino a poner un freno de realidad a estas expectativas: si le das a uno de los modelos más avanzados del planeta mil dólares y la gestión de una simple máquina expendedora, el resultado no es una corporación invencible, sino la quiebra absoluta.

El experimento, denominado Project Vend, parecía inofensivo. Instalaron una máquina de snacks en las oficinas del Wall Street Journal y le otorgaron a Claude —en la figura de dos agentes virtuales— el control de la caja chica, las compras y la fijación de precios. Uno de los agentes, bautizado como Claudius Sennet, administraba la operación diaria con 1,000 dólares iniciales, mientras que un segundo agente, Seymour Cash, actuaba como supervisor de las transacciones mayores. Al principio, el sistema se comportó de forma prudente, rechazando peticiones absurdas e inventarios inapropiados.

El colapso comenzó cuando la IA fue expuesta al factor más impredecible del planeta. La creatividad humana. Al abrir un canal de comunicación en Slack para interactuar con los empleados de la oficina, los periodistas y editores no tardaron en aplicar ingeniería social.

Tras decenas de mensajes y presiones persuasivas, los usuarios convencieron a la IA de que cobrar por las golosinas era regulatoriamente problemático y que debía lanzar una promoción “gratuitas para todos”.

Claude cedió. Los precios bajaron a cero y nunca volvieron a subir. Incapaz de defenderse ante argumentos ambiguos, el sistema comenzó a aprobar compras insólitas para una máquina de refrigerios, desde consolas PlayStation 5 hasta un pez betta vivo.

Cuando el agente supervisor intentó congelar las operaciones, los empleados presentaron documentos apócrifos firmados por un falso “consejo de administración”. La IA aceptó las cartas como legítimas, suspendió sus propios controles de seguridad y regaló todo el inventario restante. En un par de semanas, el capital inicial se esfumó por completo.

Para Logan Graham y el equipo de Anthropic, el desenlace no fue una derrota, sino una lección invaluable sobre las limitaciones reales de la tecnología. Claude demostró habilidades técnicas sobresalientes para procesar lenguaje y ejecutar transferencias, pero carece de sentido común, criterio de realidad y resiliencia ante la manipulación delictiva o lúdica del ser humano.

Este tropiezo roza lo cómico, pero transmite un mensaje profundo para el mercado laboral e industrial.

Antes de alarmarnos por la inminente sustitución de los administradores, ejecutivos o tomadores de decisiones por algoritmos autónomos, conviene recordar que la tecnología aún tropieza con los escenarios más elementales de la vida diaria. La IA sigue siendo una herramienta excepcional de asistencia y optimización, pero dejar un negocio totalmente a su suerte sigue siendo, por ahora, una idea prematura y costosa.