AI Governance
Определение
Система управления AI: политики, процессы и контроли для ответственного использования искусственного интеллекта.
Простое объяснение
Это правила и контроль за тем, чтобы AI использовался правильно и безопасно.
Подробнее
AI Governance включает: оценку рисков, мониторинг моделей, соответствие регуляциям (EU AI Act), этические принципы.
Критически важно для enterprise-компаний для избежания репутационных и юридических рисков.
Связанные термины
Guardrails
Guardrails — защитные механизмы, ограничивающие поведение AI-модели и предотвращающие генерацию вредного или нежелательного контента.
Сверхразум
Сверхразум (ASI) — гипотетический искусственный интеллект, превосходящий человеческий во всех областях: науке, творчестве, социальных навыках.
Grounding
Grounding — привязка генерации AI к фактическим данным, документам или внешним источникам для повышения точности и уменьшения галлюцинаций.
Model Collapse
Model Collapse — деградация качества AI-модели при обучении на данных, сгенерированных другими AI-моделями.