Нейронная сеть
Определение
Вычислительная система, вдохновлённая биологическими нейронными сетями мозга, состоящая из слоёв искусственных нейронов.
Простое объяснение
Это как паутинка из маленьких помощников. Каждый делает простую работу, но вместе они решают сложные задачи.
Подробнее
Нейронные сети — это математические модели, имитирующие работу мозга. Они состоят из узлов (нейронов), организованных в слои: входной, скрытые и выходной.
Каждый нейрон получает входные данные, применяет функцию активации и передаёт результат дальше.
Связанные термины
MoE
Mixture of Experts — архитектура нейросети, состоящая из множества специализированных подсетей (экспертов) и маршрутизатора, который направляет входные данные к наиболее подходящим экспертам.
Transfer Learning
Трансфер обучения — перенос знаний, полученных моделью на одной задаче, для решения другой, родственной задачи, ускоряя обучение и улучшая результаты.
KV Cache
KV Cache — механизм кэширования ключей (Keys) и значений (Values) в трансформерах для ускорения авторегрессивной генерации.
Attention Mechanism
Механизм внимания — фундаментальный компонент современных нейросетей, позволяющий модели динамически фокусироваться на релевантных частях входных данных.