Новые стандарты генерации видео: как устроена защита в Sora 2

Выход модели Sora 2 и одноименного социального приложения знаменует новый этап в развитии генеративного искусственного интеллекта. Разработчики сместили фокус с простой демонстрации технологических возможностей на создание устойчивой и контролируемой среды. Это критически важное решение, поскольку реалистичная генерация видео в сочетании со звуком многократно усиливает риски создания дипфейков, дезинформации и нарушения авторских прав.

Исторически генеративные модели сталкивались с проблемой неконтролируемого распространения вредоносного контента. Предыдущие системы защиты часто строились как надстройки над уже готовыми алгоритмами, что оставляло лазейки для злоумышленников. В случае с новой платформой архитектура безопасности была заложена на фундаментальном уровне. Компания стремится создать не просто инструмент для рендеринга, а полноценную платформу для совместного творчества, где доверие и прозрачность являются ключевыми факторами.

Система защиты опирается на несколько независимых уровней. Первый уровень — это прозрачность происхождения контента. Каждое сгенерированное видео включает криптографические метаданные стандарта C2PA (Coalition for Content Provenance and Authenticity), а также видимые и невидимые водяные знаки. Внутренние инструменты обратного поиска позволяют с высокой точностью определить источник любого ролика, опираясь на опыт, полученный при разработке генератора изображений в ChatGPT.

Второй уровень касается использования образов реальных людей (image-to-video). Генерация видео на основе фотографий требует явного подтверждения наличия согласия и авторских прав. Для управления собственной внешностью и голосом внедрена система цифровых персонажей. Пользователь полностью контролирует, кто может использовать его аватар, и имеет право отозвать доступ в любой момент. При этом алгоритмы целенаправленно блокируют попытки генерации видео с участием известных публичных фигур вне рамок этой системы согласия.