M
Model Card
Также известен как: Карточка модели, Model Documentation
Этика и безопасностьОпределение
Model Card — стандартизированный документ, описывающий ML-модель: её назначение, производительность, ограничения и этические аспекты.
Простое объяснение
Model Card — как паспорт для AI-модели. Описывает, кто она, что умеет, где обучалась и какие у неё слабости.
Подробнее
Model Cards предложены Google в 2019 как аналог "этикетки" для моделей. Включают: intended use (для чего модель), training data (на чём обучена), evaluation results (метрики по группам), limitations (где не работает), ethical considerations (bias, risks). HuggingFace требует model cards для моделей на Hub. EU AI Act требует документацию, похожую на model cards. Помогают пользователям понять, подходит ли модель для их задачи. Dataset cards документируют данные аналогичным образом.
Связанные термины
Red Teaming
Red Teaming — практика систематического тестирования AI-систем на уязвимости путём симуляции атак злоумышленников.
Data Privacy
Конфиденциальность данных — защита персональной информации при её сборе, хранении и обработке AI-системами.
XAI
XAI (Explainable AI) — подход к созданию AI-систем, чьи решения и процесс рассуждений можно объяснить и понять человеку.
Explainable AI
Объяснимый AI (XAI) — подход к разработке AI-систем, решения которых можно понять и объяснить человеку.