Context Window
Определение
Контекстное окно — максимальный объём текста (в токенах), который языковая модель может обработать за один раз, включая входной запрос и генерируемый ответ.
Простое объяснение
Это как память у человека во время разговора. Чем больше окно, тем больше модель помнит из того, что вы обсуждали.
Подробнее
Размер контекстного окна определяет, сколько информации модель может «помнить»:
- GPT-3.5: 16K токенов
- GPT-4 Turbo: 128K токенов
- Claude 3: 200K токенов
- Gemini 1.5: 1M+ токенов
Большое окно позволяет анализировать длинные документы и вести продолжительные диалоги.
Связанные термины
GPT
GPT (Generative Pre-trained Transformer) — семейство языковых моделей OpenAI, основанных на архитектуре Transformer, ставших стандартом в генеративном AI.
LLM
Большая языковая модель (LLM) — нейронная сеть с миллиардами параметров, обученная на огромных текстовых корпусах для понимания и генерации естественного языка.
Token
Токен — минимальная единица текста, обрабатываемая языковой моделью; обычно это слово, часть слова или символ.
Hallucination
Галлюцинация AI — генерация языковой моделью информации, которая выглядит правдоподобно, но является фактически неверной или выдуманной.