W
Watermarking
Также известен как: AI Watermark, Водяной знак AI, Content Marking
Этика и безопасностьОпределение
Watermarking — технология встраивания скрытых меток в AI-генерированный контент для последующей идентификации его происхождения.
Простое объяснение
Watermarking — как невидимая подпись художника на картине. Глазом не видно, но специальный детектор покажет, что это создал AI.
Подробнее
Text watermarking модифицирует распределение выбора токенов статистически детектируемым образом, не влияя на читаемость. Image watermarking (C2PA, SynthID) встраивает метаданные, устойчивые к редактированию. Challenges: robustness (устойчивость к перефразированию, обрезке), detectability (надёжность детекции), transparency (влияние на качество). Регуляторы (EU AI Act) могут требовать маркировку AI-контента. Google, OpenAI работают над стандартами watermarking. Детекторы AI-контента (GPTZero) — альтернативный подход, но менее надёжный.
Связанные термины
XAI
XAI (Explainable AI) — подход к созданию AI-систем, чьи решения и процесс рассуждений можно объяснить и понять человеку.
Model Collapse
Model Collapse — деградация качества AI-модели при обучении на данных, сгенерированных другими AI-моделями.
AI Alignment
Согласование AI — область исследований, направленная на создание AI-систем, чьи цели и поведение соответствуют человеческим ценностям и намерениям.
Red Teaming
Red Teaming — практика систематического тестирования AI-систем на уязвимости путём симуляции атак злоумышленников.