Главный научный сотрудник OpenAI Якуб Пахоцки рассказал о новом приоритете компании — разработке автономных агентов, способных самостоятельно вести научные исследования.
3 мин
Компания OpenAI пересматривает свои исследовательские приоритеты и направляет основные ресурсы на решение новой глобальной задачи. Главной целью компании на ближайшие несколько лет становится создание «ИИ-исследователя» — полностью автоматизированной системы на базе агентов, способной самостоятельно решать масштабные и сложные проблемы.
Этот шаг знаменует переход индустрии от создания интерактивных чат-ботов к разработке систем, способных функционировать автономно на протяжении длительного времени. По словам главного научного сотрудника OpenAI Якуба Пахоцки, в будущем такие системы смогут заменить целые исследовательские лаборатории в центрах обработки данных.
Контекст и предпосылки
На протяжении многих лет OpenAI задавала вектор развития индустрии искусственного интеллекта. Успех больших языковых моделей (LLM) компании определил технологии, которыми сегодня пользуются миллионы людей. Однако сейчас OpenAI сталкивается с жесткой конкуренцией со стороны таких компаний, как Anthropic и Google DeepMind.
Решение о новом направлении во многом опирается на успехи так называемых «моделей рассуждения» (reasoning models), которые появились в 2024 году. Эти модели обучаются решать задачи пошагово, возвращаясь назад при обнаружении ошибки. Кроме того, важную роль сыграл успех приложения Codex — агента, способного писать код на лету и выполнять задачи на компьютере пользователя.
Детали и сроки
OpenAI установила четкий график реализации своего плана. К сентябрю компания планирует представить «автономного ИИ-стажера» — систему, способную самостоятельно решать ограниченный круг специфических исследовательских задач.
""
Этот стажер станет предшественником полностью автоматизированной мультиагентной исследовательской системы, дебют которой намечен на 2028 год. Ожидается, что полноценный ИИ-исследователь сможет справляться с задачами, которые слишком масштабны или сложны для человека. Спектр применения широк: от поиска новых доказательств в математике и физике до решения проблем в биологии, химии и даже бизнесе.
Анализ и вызовы
По мнению Пахоцки, если система вроде Codex может успешно справляться с программированием, этот подход можно масштабировать на решение любых проблем. Сейчас OpenAI активно тренирует свои модели на сложных задачах из математических олимпиад, чтобы научить их удерживать в памяти большие объемы данных и разбивать комплексные проблемы на подзадачи.
Однако независимые эксперты призывают к осторожности. Даг Дауни, научный сотрудник Allen Institute for AI, отмечает, что при объединении множества задач в цепочку вероятность безошибочного выполнения каждой из них последовательно снижается. Тестирование предыдущих версий моделей показывало, что они все еще допускают много ошибок при длительной автономной работе.
Перспективы и безопасность
Создание систем, способных самостоятельно вести научную деятельность, неизбежно поднимает вопросы безопасности. Пахоцки признает, что технология несет в себе серьезные риски: система может выйти из-под контроля, подвергнуться взлому или просто неверно интерпретировать первоначальные инструкции.
В настоящее время OpenAI работает над методами контроля, обучая модели делиться ходом своих рассуждений. Успех этой инициативы определит не только будущее самой компании, но и то, как быстро человечество сможет совершать новые научные открытия с помощью машинного интеллекта.
OpenAI меняет стратегию и фокусируется на создании автономных ИИ-агентов, способных самостоятельно проводить сложные научные исследования без постоянного контроля человека.
Успех ИИ в написании кода оказался не просто автоматизацией программирования, а доказательством того, что модели могут удерживать контекст и планировать действия, что открыло путь к автоматизации науки в целом.
