Ускорение расследования инцидентов: как режим Ultrafast изменил внутренние процессы OpenAI

Компания OpenAI поделилась внутренним опытом использования собственных технологий на примере режима Ultrafast для модели Codex. Этот высокоскоростной режим стал стандартом для инженеров компании при реагировании на инциденты. Главный вывод из опубликованного материала заключается в том, что скорость ответа искусственного интеллекта меняет не только временные метрики, но и сам подход к решению инженерных задач.

В условиях сложных системных сбоев время является критическим фактором. Как отмечает Аарон Фрил (Aaron Friel), технический специалист OpenAI, при любом инциденте существует множество потенциальных точек отказа. Задача дежурной команды — найти «иголку в стоге сена». Традиционно этот процесс требовал ручного сбора структурированных и неструктурированных данных, их нормализации и анализа.

С внедрением Ultrafast процесс радикально ускорился. Эй Джей Трбоевич (AJ Trbojevic), архитектор безопасности дата-центров, приводит конкретные цифры: расследования проблем безопасности, которые раньше занимали от одного до двух часов, теперь выполняются за 10–15 минут, а иногда и почти в реальном времени. Инженеры создают канал в Slack, подключают Codex и поручают ему мониторинг, исследование и ответы на возникающие вопросы. Это позволяет одновременно проверять множество гипотез.

Ключевое изменение кроется в когнитивной нагрузке на специалистов. Джефф Ниу (Jeff Niu) описывает важное правило: если поиск ответа с помощью ИИ занимает больше 30 секунд, он предпочтет обратиться к коллеге в Slack. Ранее, задавая вопрос Codex, инженеры переключались на другие задачи во время ожидания генерации, что приводило к потере концентрации. Теперь, благодаря Ultrafast, диалог происходит в реальном времени, позволяя специалистам не терять нить рассуждений и не делить внимание между несколькими проблемами.

Адам Перри (Adam Perry), работающий над базовой командой агентов, подчеркивает, что раньше он запускал ИИ-поиск и параллельно начинал искать проблему сам, так как не мог позволить себе просто ждать. Теперь скорость Codex достаточна для того, чтобы полностью сфокусироваться на работе с ассистентом.

Помимо расследования инцидентов, скорость генерации повлияла на повседневные рабочие процессы. Устранение технического долга и масштабный рефакторинг кода стали восприниматься иначе. По словам Джеффа Ниу, код стал «дешевым» в производстве, и изменения, которые раньше требовали значительных временных затрат, теперь происходят почти мгновенно.

Модель также берет на себя роль персонального помощника. Адам Перри использует непрерывный диалог с Codex в качестве «руководителя аппарата» (chief of staff), который каждое утро анализирует данные, напоминает о встречах и пропущенных сообщениях. Саян Сисодия (Sayan Sisodiya) применяет Codex для рутинной работы в браузере, например, для заполнения форм — задач, которых он раньше избегал из-за медлительности предыдущих версий систем.

Анализ этого опыта показывает, что для профессионального использования ИИ-инструментов скорость генерации становится не менее важной характеристикой, чем качество самого ответа. Сокращение времени ожидания ниже порога потери концентрации переводит большие языковые модели (LLM) из категории продвинутых поисковиков в категорию полноправных участников рабочего процесса, с которыми можно вести непрерывный диалог в моменте.