Автономное сжатие контекста: как ИИ-агенты учатся управлять собственной памятью

Суть

Команда разработчиков представила новый инструмент для Deep Agents SDK и интерфейса командной строки (CLI). Теперь искусственные агенты могут самостоятельно инициировать сжатие своего контекстного окна в наиболее подходящие для этого моменты. Это решение меняет традиционный подход к управлению рабочей памятью больших языковых моделей (LLM), передавая контроль от жестких алгоритмов самим нейросетям.

Контекст

Сжатие контекста — это базовая операция, которая уменьшает объем информации в рабочей памяти агента. По мере общения старые сообщения заменяются кратким резюме, которое сохраняет суть прогресса, необходимого для выполнения задачи. Это действие критически важно из-за ограниченного размера контекстного окна моделей и явления "гниения контекста" (context rot), когда обилие устаревшей информации начинает сбивать модель с толку.

Исторически системы управления агентами (harnesses) контролировали этот процесс с помощью фиксированных порогов. Например, стандартный профиль мог запускать очистку, когда заполнялось 85% доступного лимита токенов. Однако такой дизайн далек от идеала. Автоматика может запустить сжатие в самом разгаре сложного изменения программного кода, когда важна каждая деталь, вместо того чтобы сделать это при переходе к новой задаче.

Детали

Новый инструмент реализован как промежуточное программное обеспечение (middleware) в Deep Agents SDK. Когда агент решает вызвать инструмент сжатия, система сохраняет последние сообщения (около 10% от доступного контекста), а всю предшествующую переписку превращает в сжатое резюме.