Галлюцинации AI
Определение
Генерация AI-моделью правдоподобной, но фактически неверной информации.
Простое объяснение
Это когда AI придумывает вещи, которых не существует, но говорит о них уверенно, как будто это правда.
Подробнее
Галлюцинации — одна из главных проблем LLM. Модель может уверенно генерировать выдуманные факты, цитаты, ссылки.
Методы борьбы: RAG (retrieval-augmented generation), fine-tuning, chain-of-thought, fact-checking.
Связанные термины
Этика AI
Этика AI — область, изучающая моральные вопросы разработки и применения AI: справедливость, прозрачность, ответственность, влияние на общество.
Red Teaming
Red Teaming — практика систематического тестирования AI-систем на уязвимости путём симуляции атак злоумышленников.
Explainable AI
Объяснимый AI (XAI) — подход к разработке AI-систем, решения которых можно понять и объяснить человеку.
AI Governance
Система управления AI: политики, процессы и контроли для ответственного использования искусственного интеллекта.