Hallucination
Определение
Галлюцинация AI — генерация языковой моделью информации, которая выглядит правдоподобно, но является фактически неверной или выдуманной.
Простое объяснение
Это когда AI уверенно рассказывает что-то, что на самом деле выдумал. Как друг, который «точно помнит» то, чего не было.
Подробнее
Причины галлюцинаций:
- Модель оптимизирована на правдоподобность, а не истинность
- Отсутствие информации в обучающих данных
- Смешение похожих фактов
Методы борьбы: RAG (поиск по базе знаний), fact-checking, цепочки рассуждений.
Связанные термины
Uncensored LLM
Большая языковая модель, из которой разработчики удалили встроенные ограничения на генерацию контента, фильтры безопасности и цензуру.
Text-to-Speech
Text-to-Speech (TTS) — технология преобразования текста в естественно звучащую речь с помощью нейронных сетей.
Token
Токен — минимальная единица текста, обрабатываемая языковой моделью; обычно это слово, часть слова или символ.
Diffusion Models
Диффузионные модели — класс генеративных моделей, которые учатся создавать данные путём постепенного удаления шума из случайного входа.
ControlNet
ControlNet — метод точного управления генерацией изображений через дополнительные условия: позы, края, глубину, скетчи.
Vision-Language Model
Vision-Language Model — мультимодальная модель, способная обрабатывать и понимать как изображения, так и текст, отвечая на вопросы о визуальном контенте.