Context Window
Определение
Контекстное окно — максимальный объём текста (в токенах), который языковая модель может обработать за один раз, включая входной запрос и генерируемый ответ.
Простое объяснение
Это как память у человека во время разговора. Чем больше окно, тем больше модель помнит из того, что вы обсуждали.
Подробнее
Размер контекстного окна определяет, сколько информации модель может «помнить»:
- GPT-3.5: 16K токенов
- GPT-4 Turbo: 128K токенов
- Claude 3: 200K токенов
- Gemini 1.5: 1M+ токенов
Большое окно позволяет анализировать длинные документы и вести продолжительные диалоги.
Связанные термины
Upscaling
Upscaling — увеличение разрешения изображения с помощью AI, добавляющего реалистичные детали, которых не было в оригинале.
Text-to-Speech
Text-to-Speech (TTS) — технология преобразования текста в естественно звучащую речь с помощью нейронных сетей.
Foundation Model
Фундаментальная модель — большая AI-модель, предобученная на огромных объёмах данных, которая может быть адаптирована для множества различных задач.
Языковая модель
Языковая модель — AI-система, обученная понимать и генерировать текст на естественном языке, предсказывая вероятность следующего слова или токена.
Inpainting
Inpainting — техника заполнения выделенных областей изображения новым контентом, сгенерированным AI с учётом контекста.
Prompt Engineering
Промпт-инжиниринг — искусство и наука составления эффективных запросов (промптов) к AI-моделям для получения качественных результатов.