Hallucination
Определение
Галлюцинация AI — генерация языковой моделью информации, которая выглядит правдоподобно, но является фактически неверной или выдуманной.
Простое объяснение
Это когда AI уверенно рассказывает что-то, что на самом деле выдумал. Как друг, который «точно помнит» то, чего не было.
Подробнее
Причины галлюцинаций:
- Модель оптимизирована на правдоподобность, а не истинность
- Отсутствие информации в обучающих данных
- Смешение похожих фактов
Методы борьбы: RAG (поиск по базе знаний), fact-checking, цепочки рассуждений.
Связанные термины
Midjourney
Midjourney — сервис генерации изображений по текстовому описанию, известный высоким художественным качеством и стилизацией.
RAG
RAG (Retrieval-Augmented Generation) — архитектура, дополняющая LLM актуальной информацией из внешних источников через поиск перед генерацией ответа.
Foundation Model
Фундаментальная модель — большая AI-модель, предобученная на огромных объёмах данных, которая может быть адаптирована для множества различных задач.
GAN
Generative Adversarial Network — архитектура из двух конкурирующих нейросетей: генератора, создающего данные, и дискриминатора, отличающего реальные данные от сгенерированных.