reymer.ai
F

Few-shot Learning

Также известен как: Обучение по нескольким примерам, In-context Learning
Машинное обучение

Определение

Few-shot Learning — способность модели выполнять новую задачу, увидев лишь несколько примеров в промпте без дополнительного обучения.

Простое объяснение

Few-shot Learning — как показать AI пару примеров "делай как здесь" и он понимает паттерн. Не нужно учить заново — достаточно нескольких демонстраций.

Подробнее

Few-shot — одна из emergent abilities больших моделей. Вместо fine-tuning на тысячах примеров, достаточно показать 2-5 примеров в контексте. Zero-shot — без примеров, one-shot — с одним примером. Работает благодаря in-context learning: модель распознаёт паттерн и экстраполирует. Качество зависит от подбора примеров, их порядка, формата. Few-shot особенно эффективен для форматирования, классификации, перевода стиля.

Связанные термины

Глубокое обучение

Подмножество машинного обучения, использующее многослойные нейронные сети для анализа данных.

Машинное обучение

Подраздел AI, где алгоритмы учатся на данных и улучшают свои результаты без явного программирования.

FlashAttention

FlashAttention — алгоритм вычисления attention, оптимизированный для GPU, который значительно снижает использование памяти и ускоряет обучение и inference.

Quantization

Квантизация — техника сжатия AI-моделей путём уменьшения точности чисел (например, с 32-bit до 4-bit), ускоряющая инференс и снижающая требования к памяти.

CLIP

CLIP (Contrastive Language-Image Pre-training) — модель OpenAI, связывающая изображения и текст в общем пространстве представлений.

Нейронная сеть

Вычислительная система, вдохновлённая биологическими нейронными сетями мозга, состоящая из слоёв искусственных нейронов.

Вернуться к глоссарию