V

VAE

Также известен как: Variational Autoencoder, Вариационный автоэнкодер
Машинное обучение

Определение

Variational Autoencoder — генеративная модель, которая учится кодировать данные в компактное латентное пространство и декодировать обратно, используя вероятностный подход.

Простое объяснение

VAE — как переводчик, который сжимает книгу до краткого содержания (латентное пространство) и может восстановить полный текст обратно. Причём он делает это так, что похожие книги получают похожие краткие содержания.

Подробнее

VAE состоит из энкодера, который преобразует вход в распределение в латентном пространстве, и декодера, восстанавливающего данные из семплов этого распределения. В отличие от обычных автоэнкодеров, VAE используют KL-дивергенцию для регуляризации латентного пространства, делая его непрерывным и структурированным. Это позволяет интерполировать между точками и генерировать новые данные. VAE используются в Stable Diffusion для работы в сжатом латентном пространстве.

Связанные термины

Zero-shot Learning

Zero-shot обучение — способность AI выполнять задачи, на которых модель не обучалась напрямую, используя общие знания и инструкции.

Neural Network

Нейронная сеть — вычислительная система, вдохновлённая структурой мозга, состоящая из связанных узлов (нейронов), обрабатывающих информацию слоями.

RLHF

Reinforcement Learning from Human Feedback — метод обучения AI-моделей на основе человеческих предпочтений, используемый для выравнивания поведения модели с человеческими ценностями.

Transfer Learning

Трансфер обучения — перенос знаний, полученных моделью на одной задаче, для решения другой, родственной задачи, ускоряя обучение и улучшая результаты.

Transformer

Трансформер — архитектура нейронной сети с механизмом внимания (attention), ставшая основой современных языковых моделей и генеративного AI.

CLIP

CLIP (Contrastive Language-Image Pre-training) — модель OpenAI, связывающая изображения и текст в общем пространстве представлений.