Bias
Определение
Предвзятость в AI — систематические ошибки или искажения в данных и алгоритмах, которые приводят к несправедливым или дискриминационным результатам.
Простое объяснение
Это когда AI учится на «неправильных» примерах и начинает делать несправедливые выводы — как если бы ты судил обо всех людях только по своим друзьям.
Подробнее
Bias может возникать на разных этапах:
- Data bias — нерепрезентативные обучающие данные
- Algorithmic bias — особенности архитектуры модели
- Human bias — предубеждения разработчиков
Примеры: AI для найма, предпочитающий мужчин; системы распознавания лиц с ошибками для определённых этнических групп.
Связанные термины
EU AI Act
EU AI Act — первое в мире комплексное регулирование AI, устанавливающее требования к системам искусственного интеллекта в Европейском Союзе.
Model Collapse
Model Collapse — деградация качества AI-модели при обучении на данных, сгенерированных другими AI-моделями.
Model Card
Model Card — стандартизированный документ, описывающий ML-модель: её назначение, производительность, ограничения и этические аспекты.
Jailbreak
Jailbreak — техники обхода встроенных ограничений AI-модели для получения запрещённых ответов или нежелательного поведения.