Context Window
Определение
Контекстное окно — максимальный объём текста (в токенах), который языковая модель может обработать за один раз, включая входной запрос и генерируемый ответ.
Простое объяснение
Это как память у человека во время разговора. Чем больше окно, тем больше модель помнит из того, что вы обсуждали.
Подробнее
Размер контекстного окна определяет, сколько информации модель может «помнить»:
- GPT-3.5: 16K токенов
- GPT-4 Turbo: 128K токенов
- Claude 3: 200K токенов
- Gemini 1.5: 1M+ токенов
Большое окно позволяет анализировать длинные документы и вести продолжительные диалоги.
Связанные термины
Multimodal AI
Мультимодальный AI — системы, способные обрабатывать и генерировать данные разных типов: текст, изображения, аудио, видео — одновременно.
Фундаментальная модель
Фундаментальная модель — большая AI-модель общего назначения, обученная на огромных данных и адаптируемая для множества задач.
Большая языковая модель
Нейросеть с миллиардами параметров, обученная на огромных текстовых данных для понимания и генерации текста.
Speech-to-Text
Speech-to-Text (STT) — технология автоматического распознавания речи и преобразования её в текст.