Explainable AI

Также известен как: XAI, Интерпретируемый AI, Объяснимый ИИ

Этика и безопасность

Определение

Объяснимый AI (XAI) — подход к разработке AI-систем, решения которых можно понять и объяснить человеку.

Это когда AI может объяснить, почему он так решил, а не просто дать ответ. Как учитель, который показывает ход решения задачи.

XAI важен для:

Методы: LIME, SHAP, attention visualization, feature importance.

Grounding — привязка генерации AI к фактическим данным, документам или внешним источникам для повышения точности и уменьшения галлюцинаций.

Сверхразум (ASI) — гипотетический искусственный интеллект, превосходящий человеческий во всех областях: науке, творчестве, социальных навыках.

Model Card — стандартизированный документ, описывающий ML-модель: её назначение, производительность, ограничения и этические аспекты.

EU AI Act — первое в мире комплексное регулирование AI, устанавливающее требования к системам искусственного интеллекта в Европейском Союзе.

Предвзятость в AI — систематические ошибки или искажения в данных и алгоритмах, которые приводят к несправедливым или дискриминационным результатам.

Watermarking — технология встраивания скрытых меток в AI-генерированный контент для последующей идентификации его происхождения.