Управление тысячами ИИ-агентов: прогноз Gartner и шесть шагов для корпораций

Суть

Аналитическая компания Gartner опубликовала прогноз, согласно которому к 2028 году средняя компания из списка Fortune 500 будет использовать более 150 тысяч искусственных интеллектуальных агентов. Для сравнения: в 2025 году этот показатель составлял менее 15 единиц. Такой взрывной рост создает беспрецедентные вызовы для ИТ-отделов, которым предстоит управлять огромным парком автономных алгоритмов. На данный момент лишь 13% организаций считают, что у них выстроена правильная система управления ИИ-агентами.

Контекст

Развитие технологий привело к тому, что искусственный интеллект перестал быть просто чат-ботом, отвечающим на вопросы. Современные ИИ-агенты способны самостоятельно выполнять цепочки задач, взаимодействовать с корпоративными базами данных и принимать решения.

Сотрудники активно интегрируют эти инструменты в свою рутину. Однако руководство часто реагирует на это радикально — путем полных запретов. Как отмечает Макс Госс, старший директор-аналитик Gartner, блокировка не является долгосрочным решением. Если лишить сотрудников легальных инструментов, они начнут использовать теневой ИИ (shadow AI). Это переводит использование технологий в слепую зону, многократно увеличивая риски утечки данных, дезинформации и нарушения конфиденциальности.

Детали

Чтобы помочь компаниям найти баланс между инновациями и безопасностью, Gartner разработала систему из шести шагов по управлению разрастанием ИИ-агентов:

1. Создание политик управления. Необходимо четко определить, кто имеет право создавать агентов, как ими можно делиться и к каким корпоративным системам они могут подключаться.

2. Централизованная инвентаризация. Компании должны понимать, сколько агентов у них работает. Для этого предлагается использовать инструменты управления доверием, рисками и безопасностью ИИ (AI TRiSM), которые помогают находить как санкционированные, так и теневые решения.

3. Управление жизненным циклом и доступом. Каждому агенту нужна цифровая идентичность и строгая модель разрешений. Устаревшие или дублирующие программы должны своевременно удаляться.

4. Информационная гигиена. Агентам нельзя давать неограниченный доступ ко всем данным компании. Необходимо следить за актуальностью информации, к которой обращается ИИ, и архивировать устаревшие базы.

5. Мониторинг поведения. ИТ-отделы должны отслеживать аномалии в работе алгоритмов. Если агент выходит за рамки своих первоначальных задач или превышает допустимый уровень риска, его действия должны корректироваться.

6. Культура ответственного использования. Технические ограничения не сработают без обучения сотрудников. Компании должны создавать программы подготовки и внутренние сообщества для обмена лучшими практиками.

Анализ

Отчет Gartner фиксирует важный сдвиг в индустрии: переход от монолитных ИИ-приложений к микросервисной архитектуре агентов. В ближайшие годы корпоративная среда будет наполнена тысячами узкоспециализированных ИИ-помощников. Один агент будет сортировать почту, другой — сводить финансовые отчеты, третий — анализировать договоры.

Управление таким парком алгоритмов потребует совершенно новых классов программного обеспечения. Точно так же, как в свое время компаниям понадобились системы управления мобильными устройствами (MDM) или облачной инфраструктурой, сейчас формируется потребность в системах оркестрации ИИ-агентов.

Перспектива

Компании, которые начнут выстраивать архитектуру управления ИИ-агентами уже сегодня, получат значительное конкурентное преимущество. Они смогут безопасно автоматизировать рутинные процессы, не рискуя корпоративными данными.

В то же время организации, игнорирующие проблему или пытающиеся решить ее исключительно запретами, столкнутся с технологическим отставанием и регулярными инцидентами в сфере информационной безопасности. Рынок инструментов для мониторинга и контроля ИИ (AI TRiSM) в ближайшие годы станет одним из самых быстрорастущих сегментов в корпоративном программном обеспечении.