W
Watermarking
Также известен как: AI Watermark, Водяной знак AI, Content Marking
Этика и безопасностьОпределение
Watermarking — технология встраивания скрытых меток в AI-генерированный контент для последующей идентификации его происхождения.
Простое объяснение
Watermarking — как невидимая подпись художника на картине. Глазом не видно, но специальный детектор покажет, что это создал AI.
Подробнее
Text watermarking модифицирует распределение выбора токенов статистически детектируемым образом, не влияя на читаемость. Image watermarking (C2PA, SynthID) встраивает метаданные, устойчивые к редактированию. Challenges: robustness (устойчивость к перефразированию, обрезке), detectability (надёжность детекции), transparency (влияние на качество). Регуляторы (EU AI Act) могут требовать маркировку AI-контента. Google, OpenAI работают над стандартами watermarking. Детекторы AI-контента (GPTZero) — альтернативный подход, но менее надёжный.
Связанные термины
Jailbreak
Jailbreak — техники обхода встроенных ограничений AI-модели для получения запрещённых ответов или нежелательного поведения.
Галлюцинации AI
Генерация AI-моделью правдоподобной, но фактически неверной информации.
Этика AI
Этика AI — область, изучающая моральные вопросы разработки и применения AI: справедливость, прозрачность, ответственность, влияние на общество.
Bias
Предвзятость в AI — систематические ошибки или искажения в данных и алгоритмах, которые приводят к несправедливым или дискриминационным результатам.