Bias
Определение
Предвзятость в AI — систематические ошибки или искажения в данных и алгоритмах, которые приводят к несправедливым или дискриминационным результатам.
Простое объяснение
Это когда AI учится на «неправильных» примерах и начинает делать несправедливые выводы — как если бы ты судил обо всех людях только по своим друзьям.
Подробнее
Bias может возникать на разных этапах:
- Data bias — нерепрезентативные обучающие данные
- Algorithmic bias — особенности архитектуры модели
- Human bias — предубеждения разработчиков
Примеры: AI для найма, предпочитающий мужчин; системы распознавания лиц с ошибками для определённых этнических групп.
Связанные термины
AI Alignment
Согласование AI — область исследований, направленная на создание AI-систем, чьи цели и поведение соответствуют человеческим ценностям и намерениям.
Этика AI
Этика AI — область, изучающая моральные вопросы разработки и применения AI: справедливость, прозрачность, ответственность, влияние на общество.
Explainable AI
Объяснимый AI (XAI) — подход к разработке AI-систем, решения которых можно понять и объяснить человеку.
Grounding
Grounding — привязка генерации AI к фактическим данным, документам или внешним источникам для повышения точности и уменьшения галлюцинаций.