Adapter
Определение
Адаптер — небольшой обучаемый модуль, встраиваемый между слоями предобученной модели для её адаптации под новые задачи без изменения основных весов.
Простое объяснение
Адаптер — как съёмный объектив для фотоаппарата. Камера (модель) остаётся той же, но разные объективы (адаптеры) позволяют снимать портреты, пейзажи или макро.
Подробнее
Связанные термины
FlashAttention
FlashAttention — алгоритм вычисления attention, оптимизированный для GPU, который значительно снижает использование памяти и ускоряет обучение и inference.
NLP
Обработка естественного языка (NLP) — область AI, занимающаяся взаимодействием компьютеров с человеческим языком: понимание, генерация, перевод.
Глубокое обучение
Подмножество машинного обучения, использующее многослойные нейронные сети для анализа данных.
Inference
Инференс — процесс получения предсказаний или результатов от обученной AI-модели на новых входных данных.