reymer.ai
M

Model Collapse

Также известен как: Коллапс модели, Model Degradation, Synthetic Data Curse
Этика и безопасность

Определение

Model Collapse — деградация качества AI-модели при обучении на данных, сгенерированных другими AI-моделями.

Простое объяснение

Model Collapse — как испорченный телефон. Каждое поколение AI учится у предыдущего, теряя нюансы. После многих итераций остаётся искажённая версия изначального знания.

Подробнее

Исследования показали, что итеративное обучение на synthetic data приводит к потере разнообразия и накоплению ошибок. Каждое поколение моделей теряет "хвосты" распределения — редкие, но важные паттерны. При достаточном количестве итераций модель может выродиться в генератор однотипного контента. Это критическая проблема, учитывая рост AI-контента в интернете. Решения: сохранение и приоритизация human-generated данных, фильтрация synthetic data, diversity-preserving training techniques.

Связанные термины

Watermarking

Watermarking — технология встраивания скрытых меток в AI-генерированный контент для последующей идентификации его происхождения.

XAI

XAI (Explainable AI) — подход к созданию AI-систем, чьи решения и процесс рассуждений можно объяснить и понять человеку.

Этика AI

Этика AI — область, изучающая моральные вопросы разработки и применения AI: справедливость, прозрачность, ответственность, влияние на общество.

Model Card

Model Card — стандартизированный документ, описывающий ML-модель: её назначение, производительность, ограничения и этические аспекты.

Галлюцинации AI

Генерация AI-моделью правдоподобной, но фактически неверной информации.

EU AI Act

EU AI Act — первое в мире комплексное регулирование AI, устанавливающее требования к системам искусственного интеллекта в Европейском Союзе.

Вернуться к глоссарию