Архитектура надежных ИИ-агентов: уроки разработки морского помощника Shippy

Суть

Команда Института искусственного интеллекта Аллена (Ai2) представила технический разбор Shippy — специализированного ИИ-агента для платформы Skylight. Этот инструмент помогает аналитикам отслеживать незаконную рыбную ловлю и защищать морские акватории. Ошибка в такой сфере может отправить патрульное судно за сотни миль в неверном направлении, поэтому ключевым приоритетом при разработке стала абсолютная надежность системы, а не просто возможности базовой нейросети.

Контекст

Разработка агентов для реального сектора сильно отличается от создания чат-ботов общего назначения. Большие языковые модели (LLM) по своей природе недетерминированы — они могут выдавать разные ответы на один и тот же запрос и склонны к ошибкам при работе со сложными структурами данных.

Чтобы преодолеть это ограничение, инженерам пришлось переосмыслить архитектуру взаимодействия модели с внешним миром. Основная работа заключалась не в обучении модели, а в создании среды, которой можно доверять.

Детали

Архитектура Shippy разделена на три логических компонента: «душа» (системный промпт, задающий границы дозволенного), «навыки» (инструкции в формате Markdown для конкретных задач) и конфигурация (выбор LLM, например, Claude Opus 4.6, и фреймворка).

Ключевое инженерное решение — отказ от прямых обращений агента к программному интерфейсу (API). Вместо этого агент использует специально написанный интерфейс командной строки (CLI). В ранних версиях попытки заставить модель самостоятельно формировать сложные API-запросы приводили к скрытым ошибкам: ломалась пагинация, искажались геоданные. CLI берет эту рутину на себя, принимая простые команды и возвращая результаты в виде локальных JSON-файлов, что исключает сбои при передаче больших объемов данных.

Для обеспечения безопасности используется платформа Mothership. Каждый диалог с пользователем запускается в изолированном Kubernetes-контейнере. Это гарантирует, что данные одного аналитика никогда не пересекутся с данными другого, а сам агент работает в жестко ограниченной «песочнице».

Анализ

Опыт Ai2 демонстрирует важный сдвиг в индустрии: переход от оценки моделей к оценке систем. Стандартные бенчмарки бесполезны, когда речь идет о динамических данных и сложных цепочках действий.

Разработчики создали собственный конвейер тестирования, где оценивается работа всего комплекса (модель, навыки, среда). Профильные эксперты составляют сценарии, а другая LLM выступает в роли судьи, проверяя точность извлечения данных, правильность работы с границами зон и корректность ссылок на источники.

Перспектива

Подход, примененный при создании Shippy, может стать стандартом для корпоративных ИИ-агентов в сферах с высокой ценой ошибки (медицина, логистика, финансы). Жесткое разделение на недетерминированную логику (LLM) и детерминированные инструменты (CLI, типизированные схемы) позволяет использовать силу нейросетей, минимизируя риски галлюцинаций. Время покажет, насколько быстро подобные архитектурные паттерны будут адаптированы в других отраслях.