Агентный искусственный интеллект делает шаг из серверных стоек в физический мир. С выходом программного стека JetPack 7.2 и фреймворка NemoClaw для периферийных вычислительных платформ Jetson, разработчики получили готовые инструменты для внедрения автономных ИИ-систем в робототехнику и промышленную автоматизацию.
До недавнего времени сложные агентные системы, способные самостоятельно планировать и выполнять многошаговые задачи, требовали мощностей центров обработки данных. Периферийные вычисления (edge computing) традиционно ограничивались более простыми задачами, такими как базовое распознавание образов. Теперь вычислительные мощности компактных модулей и оптимизация программного обеспечения достигли уровня, позволяющего запускать агентов локально.
Обновление архитектуры состоит из трех уровней. Базовый уровень — JetPack 7.2, который приносит поддержку операционной системы на базе проекта Yocto. Это позволяет создавать минималистичные, строго оптимизированные сборки Linux, что критически важно для устройств с ограниченной памятью. Также добавлена поддержка CUDA 13 и технологии Multi-Instance GPU (MIG) для чипов Thor. Последняя обеспечивает гарантированное время отклика для критически важных процессов, не позволяя системе восприятия робота зависнуть из-за фоновых задач.
Интересно, что производительность модуля Jetson AGX Orin 32GB была программно увеличена на 20%, достигнув 241 TOPS. Средний уровень стека включает специализированные навыки (agent skills), автоматизирующие рутинную работу разработчиков. Задачи по оптимизации памяти или бенчмаркингу моделей, которые раньше занимали недели, теперь выполняются за несколько дней. Верхний уровень — фреймворк NemoClaw, который разворачивается одной командой и управляет логикой автономных агентов.
Главный вызов при переносе ИИ на периферию — нехватка оперативной памяти. Поддержка Yocto и глубокая оптимизация библиотек решают именно эту экономическую проблему. Компании уже сообщают о значительных результатах внедрения нового стека. Производитель умных торговых автоматов SandStar сократил потребление памяти на 40%, перейдя с модулей на 16 ГБ на более дешевые версии с 8 ГБ. Разработчик систем управления трафиком NoTraffic снизил использование памяти на 29% за счет статической компиляции.
Индустрия уже активно тестирует новые возможности. Компания Solomon использует NemoClaw для координации нескольких ИИ-агентов в гуманоидном роботе, объединяя логику, восприятие и моторику в единый процесс. Производитель Advantech создает систему управления фабрикой, которая автоматически распределяет задачи между роботами и выявляет дефекты на линии. Компания Zipline применяет кастомные сборки Yocto в своих дронах для быстрой и безопасной доставки медикаментов.
Мы наблюдаем фундаментальный переход от ИИ, который просто анализирует данные, к ИИ, который принимает решения и действует в реальном мире. Интеграция больших языковых и визуальных моделей в единый рабочий процесс на самом устройстве позволяет роботам адаптироваться к непредсказуемым условиям без постоянной связи с облаком. В ближайшие годы подобные программно-аппаратные комплексы станут индустриальным стандартом.