Foundation Model
Определение
Фундаментальная модель — большая AI-модель, предобученная на огромных объёмах данных, которая может быть адаптирована для множества различных задач.
Простое объяснение
Это как универсальный суперумный мозг, который знает очень много всего и может научиться любой новой задаче.
Подробнее
Характеристики foundation models:
- Обучение на интернет-масштабных данных
- Миллиарды параметров
- Emergent abilities — способности, не заложенные явно
- Мультимодальность (текст, изображения, аудио)
Примеры: GPT-4, Claude, Gemini, LLaMA.
Связанные термины
RAG
RAG (Retrieval-Augmented Generation) — архитектура, дополняющая LLM актуальной информацией из внешних источников через поиск перед генерацией ответа.
LLaMA
LLaMA (Large Language Model Meta AI) — семейство открытых языковых моделей от Meta, ставшее основой для множества производных моделей.
Diffusion Models
Диффузионные модели — класс генеративных моделей, которые учатся создавать данные путём постепенного удаления шума из случайного входа.
Inpainting
Inpainting — техника заполнения выделенных областей изображения новым контентом, сгенерированным AI с учётом контекста.