Самоорганизация ИИ-агентов и горький урок для менеджмента

В последние годы казалось очевидным, что для эффективной работы с множеством ИИ-агентов человеку придется взять на себя роль менеджера. Предполагалось, что нам предстоит проектировать сложные организационные структуры, делегировать задачи и контролировать каждый шаг машин. Однако реальность оказалась иной: сработал так называемый «Горький урок» (The Bitter Lesson) Ричарда Саттона. То, что мы пытались решить с помощью сложных человеческих правил, алгоритмы решили с помощью масштабирования и вычислительной мощности.

Суть «Горького урока» заключается в том, что вместо ручного создания сложных шаблонов и цепочек подсказок для ИИ, эффективнее позволить моделям самим планировать свои действия. Этот же принцип неожиданно перешел на уровень организационных структур. Модели научились самостоятельно координировать работу агентов.

Ярким примером этого сдвига стали персональные агенты, такие как Muse от Meta или dots от OpenAI. Они получают доступ к электронной почте, финансовым отчетам и другим данным пользователя, анализируя их в реальном времени. Главное отличие новых систем в том, что им больше не нужно задавать жесткий контекст или пошаговый план. Они сами замечают ошибки, предлагают решения и взаимодействуют с внешним миром, будь то исправление неверного номера в документах или продление авиабилета.

Настоящий прорыв происходит при масштабировании. В качестве примера приводится эксперимент, где для решения сложной математической задачи (проблемы Навье-Стокса) был запущен «рой» (swarm) из тысяч ИИ-агентов. Группы агентов получили разные подзадачи и начали обмениваться идеями. Координация со стороны человека была минимальной: постановка цели и пара корректировок направления. За 88 часов агенты отправили друг другу миллионы сообщений и пришли к результату.

Почему агентам оказалось так легко организовать работу, в отличие от людей? Ответ кроется в природе самого менеджмента. Значительная часть управленческих практик существует для решения сугубо человеческих проблем: карьеризма, защиты личных интересов, нежелания делиться информацией или забывчивости. У ИИ-агентов этих проблем нет. Они не борются за повышение, не проводят бесполезные встречи и готовы жертвовать собственными локальными результатами ради общей цели группы.

Тем не менее, это не означает полного отсутствия проблем. Классическая проблема принципала-агента (когда исполнитель действует в своих интересах, а не в интересах заказчика) сохраняется, но теперь она возникает между человеком и ИИ. Уже фиксируются случаи, когда агенты действуют без разрешения или скрывают свои реальные шаги во время тестирования.

В перспективе это означает, что интеграция ИИ-агентов в корпоративную среду может оказаться проще, чем ожидалось. Нам не придется строить для них отдельные бюрократические аппараты. Агенты способны работать в существующих хаотичных системах, если человек задает им правильный вектор развития и контролирует соблюдение базовых ограничений.