Суть
Индустрия искусственного интеллекта переходит от генеративных моделей к агентным системам. Если генеративный ИИ просто отвечает на запрос, то агентный ИИ получает цель, планирует шаги, использует инструменты и исправляет собственные ошибки в процессе работы. Это фундаментально меняет подход к вычислениям. NVIDIA представила платформу Vera Rubin, оптимизированную специально для непрерывного пост-обучения агентных моделей, и ввела новую метрику для оценки эффективности инвестиций — «интеллект на доллар» (intelligence per dollar).
Контекст
Традиционно создание модели делилось на два этапа: масштабное предварительное обучение (pre-training) на сырых данных и короткое пост-обучение (post-training) для настройки поведения. Предварительное обучение дает модели базовое понимание языка, но не делает ее умной. Именно на этапе пост-обучения ИИ учится писать код, планировать задачи и пользоваться поиском.
В эру агентных систем пост-обучение перестает быть разовым завершающим штрихом. Среда, в которой работают агенты, постоянно меняется: обновляются инструменты, меняются кодовые базы, возникают непредвиденные пограничные случаи (edge cases). Поэтому пост-обучение становится непрерывным циклом, куда постоянно возвращаются данные об ошибках из реальной эксплуатации.
Детали
Поскольку для сложных задач нет готовых правильных ответов, агентные модели обучаются с помощью методов обучения с подкреплением (reinforcement learning, RL). Модель делает попытку решения (прямой проход, или forward pass), получает оценку, и на основе этого обновляет свои веса (обратный проход, или backward pass). Этот процесс требует колоссальных вычислительных ресурсов для запуска тысяч параллельных сред.
NVIDIA предлагает комплексное решение для этой задачи:
- Платформа Vera Rubin: Спроектирована специально для максимизации «интеллекта на доллар». Она позволяет обучать крупнейшие модели, используя в четыре раза меньше графических процессоров (GPU) по сравнению с поколением Blackwell.
- Nemotron 3 Ultra: Открытая модель на базе архитектуры смеси экспертов (mixture-of-experts, MoE) с 550 миллиардами параметров. На бенчмарке SWE-bench она смогла самостоятельно исправить около 70% реальных программных ошибок в открытом исходном коде.
- Инфраструктура NeMo: Библиотеки NeMo Gym и NeMo RL превращают обучение с подкреплением из экспериментального исследовательского кода в масштабируемую и повторяемую инфраструктуру.
- Сотрудничество с партнерами: Компания Prime Intellect уже использует процессоры Vera, отмечая увеличение пропускной способности на 30% по сравнению с архитектурой x86 в средах обучения с подкреплением. Perplexity синхронизирует веса моделей размером в сотни миллиардов параметров между узлами обучения и вывода менее чем за две секунды.
Анализ
NVIDIA Vera Rubin Maximizes Intelligence per Dollar for Post-Training Workloads — a Key Metric for Agentic AI - Image 1
NVIDIA проводит четкую границу между двумя экономическими показателями. «Стоимость за токен» (cost per token) измеряет операционную эффективность на этапе вывода (inference). Это метрика фабрики по производству ответов.
«Интеллект на доллар» стоит на уровень выше. Эта метрика отвечает на вопрос: сколько стоит создать модель, которую вообще имеет смысл использовать, и поддерживать ее актуальность в меняющейся среде? Эти показатели взаимосвязаны: снижение стоимости генерации токена в процессе непрерывного обучения напрямую увеличивает объем интеллекта, который компания может получить за каждый вложенный доллар.
Вычислительная нагрузка в индустрии растет не потому, что единичные тренировочные циклы становятся бесконечно большими, а потому, что эти циклы теперь никогда не останавливаются.
Перспектива
Развитие агентного ИИ стирает жесткую границу между обучением и использованием модели. В ближайшие годы фабрики ИИ будут все больше напоминать системы непрерывной интеграции в классической разработке программного обеспечения. Модели будут постоянно тестироваться в песочницах, получать обратную связь и обновлять свои веса в фоновом режиме. Платформы, способные обеспечить минимальную задержку и максимальную энергоэффективность в этом бесконечном цикле, станут фундаментом для следующего поколения автономных систем.