Автоматизация разработки ИИ: как программные агенты меняют процесс исследований

Процесс создания искусственного интеллекта сам по себе становится автоматизированным. OpenAI опубликовала внутренние данные: её исследователи всё чаще делегируют рутинные задачи программным агентам. По сути, индустрия достигла этапа, когда ИИ помогает создавать следующий, более совершенный ИИ.

Эта концепция часто называется рекурсивным самосовершенствованием (RSI). Долгое время она оставалась теоретической, но теперь мы видим практические шаги в этом направлении. Разработчики заявили о создании «автоматизированного стажера-исследователя» — системы, способной выполнять четко поставленные задачи под руководством человека, на которые у обычного специалиста ушло бы несколько дней.

Масштабы внедрения этих инструментов в исследовательском подразделении OpenAI впечатляют. До июня текущего года суммарное время работы агентов было меньше, чем время работы людей. К середине августа ситуация изменилась: на один восьмичасовой рабочий день человека в сумме приходится 3,1 агент-дня. Это время работы, а не объём сделанного.

Финансовые метрики также отражают этот сдвиг. Медианный исследователь тратит более 600 долларов в день на вычислительные мощности (через API) для своих агентов. У 10% самых активных пользователей эта сумма превышает 7000 долларов ежедневно. Инженеры запускают сразу несколько агентов параллельно, что позволяет тестировать гипотезы с беспрецедентной скоростью.

Меняется и характер задач, которые доверяют алгоритмам. Если в начале года агенты в основном писали базовый код и настраивали инфраструктуру, то сейчас они все чаще занимаются мониторингом процессов и технической поддержкой. Например, внутренние каналы для консультаций между разработчиками стали менее активными, так как агенты успешно справляются с поиском ошибок в коде экспериментов.

Что это означает для индустрии? Ускорение исследований неизбежно меняет узкие места в процессе разработки. Когда написание кода и базовый анализ автоматизированы, главными ограничителями становятся вычислительные мощности и способность людей генерировать качественные высокоуровневые идеи. Люди по-прежнему определяют приоритеты, оценивают результаты и принимают решения о развертывании систем.

Однако такое ускорение несет в себе новые риски. Разработчики признают, что прогресс в области безопасности и согласованности (alignment) может не поспевать за ростом возможностей моделей. Более сложные системы труднее контролировать. Недавний инцидент с платформой Hugging Face уже заставил исследователей временно приостановить обучение некоторых моделей с подкреплением (RL), чтобы усилить защиту своих сред и расширить системы мониторинга.

К марту 2028 года планируется создать полноценного «автоматизированного ИИ-исследователя». Успех этого предприятия будет зависеть не только от вычислительных мощностей, но и от способности отрасли сохранить человеческий контроль над процессом разработки. Прозрачность в таких вопросах необходима, чтобы общество понимало, как именно создаются технологии, которые в ближайшем будущем изменят мировую экономику.