T
Temperature
Также известен как: Температура, Sampling Temperature
Основы AIОпределение
Temperature — параметр, контролирующий случайность в генерации текста: низкая температура даёт предсказуемые ответы, высокая — креативные.
Простое объяснение
Temperature — как регулятор креативности AI. На нуле — строгий учёный, на единице — свободный художник.
Подробнее
Temperature применяется к logits перед softmax: logits/T. При T=0 модель детерминистично выбирает наиболее вероятный токен (greedy decoding). При T=1 — стандартное распределение вероятностей. T>1 сглаживает распределение, увеличивая шанс редких токенов. Для фактических ответов рекомендуется T=0-0.3, для креативного письма T=0.7-1.0. Связанные параметры: top_p (nucleus sampling), top_k (ограничение выбора k токенами).
Связанные термины
Юзабилити AI
Юзабилити AI — удобство использования AI-продуктов, включающее простоту взаимодействия, понятность результатов и эффективность решения задач.
Top-p / Top-k
Top-p и Top-k — методы семплирования, ограничивающие выбор следующего токена наиболее вероятными вариантами.
Chain-of-Thought
Chain-of-Thought (CoT) — техника промптинга, побуждающая модель рассуждать пошагово перед выдачей финального ответа.
Query
Запрос (Query) — входные данные или команда, отправляемая AI-системе или базе данных для получения информации или выполнения действия.