Context Window
Определение
Контекстное окно — максимальный объём текста (в токенах), который языковая модель может обработать за один раз, включая входной запрос и генерируемый ответ.
Простое объяснение
Это как память у человека во время разговора. Чем больше окно, тем больше модель помнит из того, что вы обсуждали.
Подробнее
Размер контекстного окна определяет, сколько информации модель может «помнить»:
- GPT-3.5: 16K токенов
- GPT-4 Turbo: 128K токенов
- Claude 3: 200K токенов
- Gemini 1.5: 1M+ токенов
Большое окно позволяет анализировать длинные документы и вести продолжительные диалоги.
Связанные термины
Vision-Language Model
Vision-Language Model — мультимодальная модель, способная обрабатывать и понимать как изображения, так и текст, отвечая на вопросы о визуальном контенте.
Запрос
Запрос (промпт) — текстовая инструкция или вопрос, отправляемый пользователем языковой модели для получения ответа.
Foundation Model
Фундаментальная модель — большая AI-модель, предобученная на огромных объёмах данных, которая может быть адаптирована для множества различных задач.
GPT
GPT (Generative Pre-trained Transformer) — семейство языковых моделей OpenAI, основанных на архитектуре Transformer, ставших стандартом в генеративном AI.