reymer.ai
M

Model Card

Также известен как: Карточка модели, Model Documentation
Этика и безопасность

Определение

Model Card — стандартизированный документ, описывающий ML-модель: её назначение, производительность, ограничения и этические аспекты.

Простое объяснение

Model Card — как паспорт для AI-модели. Описывает, кто она, что умеет, где обучалась и какие у неё слабости.

Подробнее

Model Cards предложены Google в 2019 как аналог "этикетки" для моделей. Включают: intended use (для чего модель), training data (на чём обучена), evaluation results (метрики по группам), limitations (где не работает), ethical considerations (bias, risks). HuggingFace требует model cards для моделей на Hub. EU AI Act требует документацию, похожую на model cards. Помогают пользователям понять, подходит ли модель для их задачи. Dataset cards документируют данные аналогичным образом.

Связанные термины

Jailbreak

Jailbreak — техники обхода встроенных ограничений AI-модели для получения запрещённых ответов или нежелательного поведения.

Guardrails

Guardrails — защитные механизмы, ограничивающие поведение AI-модели и предотвращающие генерацию вредного или нежелательного контента.

Model Collapse

Model Collapse — деградация качества AI-модели при обучении на данных, сгенерированных другими AI-моделями.

EU AI Act

EU AI Act — первое в мире комплексное регулирование AI, устанавливающее требования к системам искусственного интеллекта в Европейском Союзе.

Explainable AI

Объяснимый AI (XAI) — подход к разработке AI-систем, решения которых можно понять и объяснить человеку.

Red Teaming

Red Teaming — практика систематического тестирования AI-систем на уязвимости путём симуляции атак злоумышленников.

Вернуться к глоссарию