Context window и ограничения

Контекстное окно — "рабочая память" AI

LLM не имеет долговременной памяти между сессиями. Всё, что она "помнит" — это то, что находится в текущем контекстном окне. Это как если бы у человека была только записная книжка ограниченного размера, и он забывал всё, что не поместилось.

Что входит в контекст?

• Системный промпт — инструкции, которые задают поведение модели
• История диалога — все предыдущие сообщения в чате
• Загруженные файлы — документы, код, изображения
• Ваш текущий вопрос
• Ответ модели (генерируется в том же окне!)

Что происходит, когда контекст переполняется?

Разные системы обрабатывают это по-разному:

• Обрезка начала — удаляются самые старые сообщения
• Сжатие — AI создаёт краткое резюме старого контекста
• Ошибка — система отказывается обрабатывать слишком длинный запрос

Практические советы