Инженеры Datadog создали среду, в которой ИИ-агенты пишут не готовый код, а строгие спецификации. Это решает главную проблему применения ИИ в разработке — сложность верификации.
3 мин
Внедрение генеративного искусственного интеллекта в процесс разработки программного обеспечения меняет роль инженера. По мере того как ИИ-агенты берут на себя написание значительной части кода, разработчики превращаются в управленцев, формулирующих задачи и проверяющих результаты. Компания Datadog столкнулась с тем, что проверка сгенерированного кода стала узким местом, и разработала систему Temper — универсальный инструмент для безопасной работы автономных агентов.
Проблема использования сложных агентов, таких как Claude от Anthropic, заключается в их самостоятельности. При длительных сессиях агенты начинают изобретать собственные инструменты, промежуточный код и внутренние соглашения. Это делает их полезными, но усложняет интеграцию их работы в традиционные системы, созданные для людей. Разрыв между тем, что агент способен сгенерировать, и тем, что человек способен надежно проверить, порождает критические ошибки в производственной среде.
Чтобы решить эту проблему, Datadog прошла через несколько этапов эволюции внутренних процессов. В 2024 году они вручную создали систему очередей Courier, уделив особое внимание формальному моделированию. В 2025 году появилась система BitsEvolve, где модели генерировали варианты кода, а бенчмарки отбирали лучшие из них. Затем, с помощью Claude Code, за несколько дней был создан аналог Kafka под названием Helix. На каждом этапе становилось ясно: агенты могут строить сложные системы, но для вывода их в рабочую среду требуются огромные усилия по координации.
Система Temper меняет базовый подход к генерации. Вместо того чтобы писать готовый прикладной код, ИИ-агент создает спецификации. Ядро Temper читает эту спецификацию, проводит ее через четыре уровня анализа и развертывает описанную систему. Поскольку спецификация является одновременно и проверяемым артефактом, и исполняемым файлом, расхождения между тем, что было протестировано, и тем, что работает, полностью исключаются.
Изображение из источника
Каждая возможность в Temper описывается тремя контрактами. Поведенческий контракт фиксирует состояния и правила безопасности. Контракт данных определяет типы сущностей в машиночитаемом формате, позволяя агенту изучать API без документации. Контракт авторизации по умолчанию запрещает действия, требуя одобрения, которое человек может загрузить в систему на лету.
Перед запуском спецификация проходит строгую проверку. Символьное рассуждение доказывает выполнимость условий. Исчерпывающее исследование состояний проверяет все возможные варианты развития событий. Детерминированная симуляция запускает код с искусственным внедрением сбоев — задержек или падений. Наконец, рандомизированное тестирование выполняет тысячи псевдослучайных последовательностей действий для поиска уязвимостей.
В традиционных приложениях логика управления распределена между маршрутами, базой данных и фоновыми задачами. Temper делает эту логику явной в виде конечного автомата. Агент производит точное описание, а этап компиляции происходит вне языковой модели. Это позволяет агентам динамически и безопасно изменять логику работы систем без необходимости каждый раз проходить через традиционные процессы непрерывной интеграции (CI).
Подход Datadog демонстрирует переход к концепции «темной фабрики» (dark factory) в разработке программного обеспечения — среде, где программные агенты могут работать автономно и безопасно. Создание инструментов, подобных Temper, является необходимым шагом для того, чтобы ИИ мог не просто писать функции, но и надежно проектировать критически важную инфраструктуру.
Datadog решила проблему надежности ИИ-кода, заставив агентов писать не сам код, а проверяемые спецификации, которые затем исполняются детерминированным ядром.
Главная сложность внедрения ИИ в разработку — это не способность моделей писать код, а неспособность людей быстро и надежно проверять сгенерированную архитектуру.
