Система Murakkab от MIT и Microsoft: автоматизация и снижение стоимости агентных ИИ-приложений

Исследователи разработали платформу, которая переводит текстовые описания задач в оптимизированные цепочки ИИ-агентов, значительно сокращая вычислительные затраты и потребление энергии.

Обновлено:
3 мин чтения
0 просмотров
Система Murakkab от MIT и Microsoft: автоматизация и снижение стоимости агентных ИИ-приложений

Исследователи из Массачусетского технологического института (MIT) совместно с Microsoft разработали систему Murakkab, предназначенную для оптимизации создания и развертывания многошаговых ИИ-приложений. Эта платформа позволяет разработчикам описывать желаемый результат простым языком, после чего система автоматически подбирает необходимые модели, инструменты и аппаратные конфигурации. Это важный шаг к тому, чтобы сделать сложные ИИ-решения более доступными, дешевыми и энергоэффективными.

Person at laptop, with floating AI-app buttons and charts.

Person at laptop, with floating AI-app buttons and charts.

Агентные рабочие процессы (agentic workflows) стремительно становятся основой облачных ИИ-сервисов. В отличие от одиночных запросов к одной нейросети, такие процессы объединяют несколько автономных ИИ-агентов, внешние базы данных и программные инструменты для решения комплексных задач — например, для анализа видео с последующими ответами на вопросы. Однако проектирование таких систем вручную крайне неэффективно. Разработчикам приходится жестко задавать последовательность действий, выбирать конкретные модели и пытаться угадать оптимальные настройки оборудования. Из-за огромного количества возможных комбинаций это часто приводит к избыточному выделению ресурсов, потере времени и перерасходу энергии.

Система Murakkab (в переводе с урду — «композиция») решает эту проблему за счет динамической оркестрации. Разработчику достаточно сформулировать высокоуровневую цель. Платформа сама определяет, какие компоненты лучше использовать, какие задачи можно выполнять параллельно, а какие — последовательно. При развертывании в облаке система адаптирует конфигурацию под конкретные приоритеты пользователя: минимизацию задержки, снижение стоимости или сохранение максимальной точности. В ходе тестирования на задачах генерации кода и анализа видео Murakkab показала впечатляющие результаты: системе потребовалось лишь около 35 процентов вычислительных ресурсов по сравнению с традиционными методами. При этом потребление энергии составило 27 процентов, а финансовые затраты снизились более чем в четыре раза, сохранив требуемый уровень производительности.

A datacenter with ephemeral glowing blue boxes.

A datacenter with ephemeral glowing blue boxes.

Для индустрии это означает постепенный отказ от ручной настройки инфраструктуры под каждую ИИ-задачу. Сложность современных моделей (LLM) и их интеграций достигла того уровня, когда человек физически не может просчитать все варианты оптимизации. Murakkab не только снимает эту нагрузку с инженеров, но и дает облачным провайдерам необходимую прозрачность. Провайдеры могут более эффективно распределять вычислительные мощности между множеством клиентов, избегая простоев оборудования и снижая общую углеродную нагрузку дата-центров.

В будущем подобные системы автоматической оркестрации станут стандартом для развертывания любых серьезных ИИ-продуктов. Исследователи планируют масштабировать Murakkab для работы с еще более сложными рабочими процессами и крупными вычислительными кластерами. По мере появления новых аппаратных ускорителей и алгоритмов, разработчикам больше не придется переписывать архитектуру своих приложений — интеллектуальные платформы будут внедрять эти инновации на лету.

A new system by MIT researchers improves the efficiency of high-speed operations in data centers by better assigning time-sensitive data processing across CPU cores and ensuring hardware runs productively.

A new system by MIT researchers improves the efficiency of high-speed operations in data centers by better assigning time-sensitive data processing across CPU cores and ensuring hardware runs productively.

Aerial sunset photo of a data center in a suburban neighborhood

Aerial sunset photo of a data center in a suburban neighborhood

Ignacio Vazquez gestures in front of whiteboard covered with symbols and diagrams

Ignacio Vazquez gestures in front of whiteboard covered with symbols and diagrams

Several houses that have courtyards and many rooms, in Ghana.

Several houses that have courtyards and many rooms, in Ghana.

Fossil wall of various species

Fossil wall of various species

The Lockport truss bridge photo shows the current trusses, and then three designs show trusses with different materials.

The Lockport truss bridge photo shows the current trusses, and then three designs show trusses with different materials.

Perrin Davidson stands, posing, against an indoor staircase

Perrin Davidson stands, posing, against an indoor staircase

David Autor speaks from a lectern that has a sign reading "AI and Society Forum."

David Autor speaks from a lectern that has a sign reading "AI and Society Forum."

TL;DR

Главное

Система Murakkab автоматизирует создание сложных ИИ-приложений, самостоятельно подбирая модели и оборудование по текстовому описанию задачи, что радикально снижает затраты на вычисления.

Ключевые факты

  • /Потребление вычислительных ресурсов снижено до 35% по сравнению с ручной настройкой.
  • /Затраты на энергию составили всего 27% от стандартных показателей.
  • /Финансовые расходы на выполнение задач сократились более чем на 75%.

Инсайт

Система способна находить неочевидные конфигурации моделей и оборудования, которые человек-разработчик вряд ли смог бы подобрать вручную из-за слишком большого пространства вариантов.

Источник:News

Читайте также