Neural Network
Определение
Нейронная сеть — вычислительная система, вдохновлённая структурой мозга, состоящая из связанных узлов (нейронов), обрабатывающих информацию слоями.
Простое объяснение
Это программа, устроенная как упрощённый мозг: много маленьких кусочков соединены друг с другом и вместе решают задачи.
Подробнее
Типы нейронных сетей:
- Feedforward — базовая архитектура
- CNN — для изображений
- RNN/LSTM — для последовательностей
- Transformer — для текста (LLM)
- GAN — для генерации
Связанные термины
VAE
Variational Autoencoder — генеративная модель, которая учится кодировать данные в компактное латентное пространство и декодировать обратно, используя вероятностный подход.
Reinforcement Learning
Обучение с подкреплением — метод машинного обучения, при котором агент учится принимать решения, получая награды или штрафы за свои действия.
LoRA
Low-Rank Adaptation — метод эффективного дообучения больших языковых моделей, который замораживает исходные веса и добавляет небольшие обучаемые матрицы.
DPO
Direct Preference Optimization — упрощённая альтернатива RLHF, которая напрямую оптимизирует модель на данных предпочтений без необходимости отдельной reward model.