T

Temperature

Также известен как: Температура, Sampling Temperature
Основы AI

Определение

Temperature — параметр, контролирующий случайность в генерации текста: низкая температура даёт предсказуемые ответы, высокая — креативные.

Простое объяснение

Temperature — как регулятор креативности AI. На нуле — строгий учёный, на единице — свободный художник.

Подробнее

Temperature применяется к logits перед softmax: logits/T. При T=0 модель детерминистично выбирает наиболее вероятный токен (greedy decoding). При T=1 — стандартное распределение вероятностей. T>1 сглаживает распределение, увеличивая шанс редких токенов. Для фактических ответов рекомендуется T=0-0.3, для креативного письма T=0.7-1.0. Связанные параметры: top_p (nucleus sampling), top_k (ограничение выбора k токенами).

Связанные термины

Оптимизация

Оптимизация — процесс улучшения системы, модели или процесса для достижения лучших результатов при заданных ограничениях.

Запрос (Query) в AI

Запрос (Query) — входные данные или команда, отправляемая AI-системе или базе данных для получения информации или выполнения действия.

Tokenizer

Tokenizer — компонент, преобразующий текст в последовательность токенов (чисел), которые понимает языковая модель.

Юзабилити AI

Юзабилити AI — удобство использования AI-продуктов, включающее простоту взаимодействия, понятность результатов и эффективность решения задач.

Chain-of-Thought

Chain-of-Thought (CoT) — техника промптинга, побуждающая модель рассуждать пошагово перед выдачей финального ответа.

AI (Artificial Intelligence)

Искусственный интеллект — область компьютерных наук, занимающаяся созданием систем, способных выполнять задачи, требующие человеческого интеллекта.