Исследователи MIT CSAIL разработали алгоритм Masked IRL, который использует LLM для перевода неточных человеческих инструкций в безопасные планы движений для роботов.
3 мин
Исследователи из MIT CSAIL представили алгоритм Masked IRL (Masked Inverse Reinforcement Learning). Он использует большие языковые модели (LLM) для того, чтобы помочь роботам правильно интерпретировать неточные команды человека и безопасно выполнять бытовые или производственные задачи. Это важный шаг в робототехнике, так как он решает проблему барьера между естественной человеческой речью и строгим машинным кодом.
Традиционно обучение робота новым физическим задачам требует либо написания огромного количества строк кода, либо сотен физических демонстраций, когда человек буквально водит рукой робота, показывая нужные движения. Проблема усугубляется тем, что люди склонны давать расплывчатые инструкции. Человек может сказать «поставь кофе на стол, но не мешай мне», подразумевая множество негласных правил: не пролей напиток, не задень ноутбук, не перекрой экран. Роботу без исчерпывающих инструкций эти нюансы непонятны.
About five photos of a robotic experiment are collaged together. A robotic arm uses a spoon to pick up red marbles and place in a bowl. A human hand pushes and pulls the robotic hand. Marbles are scattered on the table and are also being poured into the new bowl.
Новый подход автоматизирует процесс обучения с помощью двух языковых моделей. Первая LLM анализирует физическую демонстрацию (траекторию движения) и расширяет первоначальный запрос пользователя. Например, короткая команда «держись ближе» превращается в более точное «держись ближе к поверхности стола».
Вторая модель оценивает детали окружающей среды и отсеивает нерелевантную информацию, создавая своеобразную маску внимания. Алгоритм присваивает каждому элементу среды оценку: «1» (важно для задачи) или «0» (можно игнорировать). Если во время демонстрации человек опирался на стол, модель поймет, что для задачи переноса кружки эта деталь не имеет значения.
Person at laptop, with floating AI-app buttons and charts.
Такой подход позволил сократить объем необходимых демонстрационных данных почти в пять раз. В ходе экспериментов система Masked IRL на 15 процентов чаще правильно определяла скрытые предпочтения пользователей по сравнению с базовыми методами. Роботы успешно перемещали предметы, избегая столкновений с техникой и людьми.
Использование LLM в качестве интерпретатора физического мира открывает новые возможности для индустрии. Языковые модели здесь выступают не просто как генераторы текста, а как фильтры внимания и инструменты базового пространственного рассуждения. Они помогают алгоритмам планирования движений сосредоточиться только на критически важных переменных, отбрасывая информационный шум.
Пока система опирается в основном на сенсоры и физические демонстрации. Следующим шагом, по словам исследователей, станет добавление компьютерного зрения. Интеграция камер позволит алгоритму динамически реагировать на изменения в среде — например, замечать новые препятствия и корректировать маршрут на лету. Время покажет, насколько быстро подобные системы смогут адаптироваться к хаосу реальных человеческих жилищ, но текущие результаты выглядят многообещающе.
Illustration of a woman doing a video call while an android sets a mug of coffee on her desk.
Felix Yanwei Wang working with a robotic arm that is holding a bowl
The background is blue and shows a pattern of coffee mugs. In the foreground on the left, a human hand holds a Tim the Beaver coffee mug. To the right of that, a robotic hand holds another Tim mug.
Portrait photos of Ben Armstrong, left, and Julie Shah
19 people pose outdoors in three rows on a spring day
Erin Kara portrait outside.
Bikers on the MIT campus.
Books on a shelf with “Summer Reading 2026” on the spines of three books.
Алгоритм Masked IRL использует языковые модели для перевода неточных команд в строгие физические ограничения, позволяя роботам игнорировать лишние данные среды.
Языковые модели оказались эффективны не только в работе с текстом, но и как фильтры пространственного внимания, указывающие роботам, на какие объекты физического мира не нужно обращать внимание.
