Эксперимент Anthropic Project Swap: ИИ-агенты учатся торговать от лица людей
Исследователи Anthropic создали миниатюрный рынок, где ИИ-агенты на базе Claude самостоятельно договаривались об обмене книгами для сотрудников компании.
Суть
Компания Anthropic провела исследовательский эксперимент Project Swap, чтобы выяснить, как искусственный интеллект справляется с ролью переговорщика в рыночных условиях. Для этого был создан миниатюрный децентрализованный рынок, где ИИ-агенты на базе модели Claude торговались и совершали сделки от лица 201 сотрудника компании. Предметом обмена стали обычные книги, которые участники хотели отдать.
Этот проект — шаг к пониманию того, как в будущем автономные агенты смогут брать на себя рутинные задачи по поиску контрагентов и ведению переговоров, экономя время людей.
Контекст
В реальной жизни существует множество потенциально выгодных сделок, которые никогда не происходят. Причина кроется в высоких транзакционных издержках: поиск подходящего варианта и сами переговоры требуют слишком много времени и сил. Это касается как крупных решений, вроде поиска работы или медицинских услуг, так и мелких бытовых задач — например, обмена рабочими сменами или организации совместных поездок.
Diagram of the experiment's three stages: participants brief their agents about the book they brought and what they hope to read; agents trade either through a centralized clearinghouse or by negotiating directly on a decentralized trading floor; each agent then hands its person the book it traded for.
Рынки бывают централизованными (где единый центр собирает все заявки и распределяет их) и децентрализованными (где участники договариваются напрямую). ИИ-агенты могут быть полезны в обоих случаях, но особенно их потенциал раскрывается в децентрализованных системах, где люди не хотят раскрывать все свои предпочтения единому алгоритму.
Детали
Механика эксперимента была выстроена вокруг простого бартера. Каждый из 201 участника принес книгу для обмена. Затем сотрудники проводили короткую пятиминутную беседу со своим ИИ-агентом, рассказывая о своих литературных предпочтениях.
На основе этого диалога Claude составлял рейтинг всех доступных книг. Исследователи сравнили этот рейтинг с реальными предпочтениями людей (которые те составили вручную для 10 книг) и выяснили, что совпадение составило 61%. Это весьма высокий показатель для столь короткого общения.
После этого агенты отправлялись на цифровую торговую площадку. Они могли предлагать прямые обмены или сложные многосторонние сделки. Интересно, что исследователи разделили агентов на две группы: «безжалостные» (цель — получить лучшую книгу только для своего клиента) и «просоциальные» (цель — найти хорошую книгу для клиента, но при этом заботиться об общем благе рынка).
Последующий анализ показал важный факт: качество базовой языковой модели (LLM) влияло на успешность переговоров гораздо сильнее, чем инструкции (промпты), которые задавали стиль поведения агента. Более мощные модели делали рынок более эффективным.
Waterfall chart decomposing the market's shortfall. In the decentralized market, scores fall from a best possible 0.89 mainly due to Claude's representation of preferences (−0.29), with agent-to-agent bargaining costing only −0.05, leaving 0.55. Under a centralized trading rule, scores fall from 0.82 to 0.60, again driven by representation (−0.23).
Анализ
Результаты Project Swap демонстрируют, что ИИ уже сейчас способен неплохо понимать неявные предпочтения людей из обычного разговора и представлять их интересы в многопользовательской среде. Главная проблема, с которой столкнулись агенты на торговой площадке, заключалась не в неумении вести переговоры, а в нехватке информации о своих владельцах.
Это указывает на ключевой вызов для индустрии: чтобы агенты стали по-настоящему полезными в экономике, разработчикам предстоит решить проблему доверия и передачи контекста. Кроме того, создание рынков для ИИ потребует новых правил игры: кто допускается к торгам, как решаются споры и что происходит, если сделка срывается.
Перспектива
В обозримом будущем мы можем увидеть появление специализированных платформ, где ИИ-агенты будут постоянно искать лучшие условия для своих владельцев в фоновом режиме. Большинство участников эксперимента Anthropic остались довольны полученными книгами и заявили, что готовы доверить Claude управление примерно третью своего годового бюджета на литературу.
Однако до массового внедрения таких систем предстоит долгий путь. Потребуется разработка стандартов взаимодействия между агентами разных компаний и создание надежных механизмов проверки того, что ИИ действительно правильно понял намерения человека.
Scatter plot comparing where Claude's ranking placed each book against where the participant's own ranking placed it. The fitted line has a slope of 0.30 (95% interval 0.24 to 0.35), well below the perfect-agreement diagonal, showing Claude's rankings only partially matched participants' true preferences.
Dot plot of allocation efficiency by model. With every agent on one model: Haiku 0.75, Sonnet 0.80, Opus 0.88, Fable 0.86. On mixed floors pairing Opus with each model, whole-floor efficiency is 0.82 with Haiku, 0.83 with Sonnet, and 0.86 with Fable.
Two-panel illustration: on a dark background, five colored bars resembling books on a shelf; on dotted paper, two columns of dots joined by crisscrossing colored lines, like a matching diagram pairing people with books.
TL;DR
Главное
ИИ-агенты способны успешно представлять интересы людей на децентрализованных рынках, снижая издержки на поиск и переговоры.
Ключевые факты
- /В эксперименте участвовал 201 сотрудник Anthropic.
- /После 5-минутного диалога ИИ угадывал предпочтения пользователя с точностью 61%.
- /Мощность базовой модели влияла на успех сделок сильнее, чем заданные инструкции поведения.
Инсайт
Главным препятствием для эффективной торговли агентов стало не их неумение договариваться, а недостаточная глубина понимания личных предпочтений пользователя.
