Исследователи IBM объяснили, почему одних лишь больших языковых моделей недостаточно для корпоративных задач, и предложили использовать классическую программную логику для управления ИИ-агентами.
3 мин
Несмотря на стремительное развитие искусственного интеллекта, масштабируемое внедрение ИИ в крупном бизнесе сталкивается с серьезными трудностями. Исследователи из IBM Research опубликовали материал, в котором доказывают: для решения сложных корпоративных задач недостаточно просто использовать передовые большие языковые модели (LLM). Чтобы ИИ-агенты работали надежно, предсказуемо и экономически выгодно, им необходима «агентная логика» — строгий программный каркас, который направляет работу языковой модели.
Многочисленные исследования показывают высокий процент неудач при запуске пилотных ИИ-проектов в компаниях. Проблема заключается в специфике корпоративных рабочих процессов. Они динамичны, занимают много времени, требуют взаимодействия с множеством баз данных и API, а также жестко ограничены бизнес-правилами и нормативными требованиями.
Попытка решить эти задачи путем простого расширения контекстного окна LLM приводит к негативным последствиям. Увеличивается риск галлюцинаций, а затраты на вычисления (потребление токенов) возрастают до неприемлемых значений. Языковой модели нужен своеобразный «GPS-навигатор», который не позволит ей сбиться с пути в лабиринте корпоративных данных.
IBM определяет «агентную логику» как программные примитивы: графы знаний (knowledge graphs), классические алгоритмы и библиотеки анализа кода. Они работают на уровне управления агентом и целенаправленно сужают пространство контекста для LLM. Эффективность этого подхода подтверждается внутренними тестами компании в нескольких сложных областях:
Эти данные иллюстрируют важный сдвиг в индустрии. Первоначальный энтузиазм по поводу того, что LLM способны самостоятельно планировать и выполнять любые задачи, сменяется прагматичным инженерным подходом. Оказывается, что классические методы информатики — статический анализ, детерминированные алгоритмы, строгие политики доступа — не устарели. Напротив, их интеграция с генеративным ИИ создает системы, которые превосходят базовые модели как по надежности, так и по стоимости эксплуатации.
Агентная логика снимает с LLM нагрузку по планированию сложных многошаговых процессов в незнакомой среде, оставляя модели ту работу, с которой она справляется лучше всего: понимание естественного языка, генерацию текста и локальный анализ небольших фрагментов данных.
Вероятно, в ближайшие годы мы увидим стандартизацию фреймворков для создания ИИ-агентов, где жесткая программная логика будет встроена по умолчанию. Разработчики корпоративного ПО будут конкурировать не в размере используемых языковых моделей, а в качестве архитектуры графов знаний и алгоритмов маршрутизации задач. Это сделает ИИ-решения менее «магическими», но гораздо более предсказуемыми и безопасными для бизнеса.
Для успешного внедрения ИИ в корпорациях необходимы не только большие языковые модели, но и «агентная логика» — классические алгоритмы и графы знаний, направляющие работу нейросетей.
Классические методы программирования не заменяются нейросетями, а становятся критически важным инструментом для их удешевления и стабилизации в бизнес-среде.
