Обновление правил использования Anthropic: адаптация к автономности моделей и физическим рискам

Суть

8 октября 2026 года компания Anthropic опубликовала обновленную версию правил использования своих продуктов, которая вступает в силу 12 ноября. Изменения продиктованы развитием возможностей моделей, в частности тем, что Claude теперь способен выполнять более длительные и самостоятельные задачи. Главный фокус обновления — уточнение существующих правил и адаптация к новым сценариям применения искусственного интеллекта в физическом мире и информационном пространстве.

Контекст

За последний год компания зафиксировала новые паттерны злоупотреблений в таких сферах, как операции влияния, разработка оружия и слежка. В частности, государственные СМИ, правительственные офисы пропаганды и коммерческие фирмы пытались использовать ИИ для управления сетями фальшивых аккаунтов и создания фейковых новостных сайтов. Ранее ограничения, запрещающие подобную деятельность, были разбросаны по разным разделам правил, что потребовало их пересмотра и консолидации.

Детали

Обновленные правила затрагивают несколько ключевых направлений, детально описывая допустимые и недопустимые сценарии использования моделей.

Обманные кампании и выборы. Появился новый раздел, запрещающий любые формы обманных кампаний и искусственной активности. Он охватывает попытки скрыть авторство сообщений или усилить контент через фейковые аккаунты. Раздел, касающийся выборов, был переименован и теперь сфокусирован на запрете использования Claude для обмана избирателей или срыва демократических процессов. При этом Anthropic сняла полный запрет на персонализированный таргетинг, чтобы разрешить легитимную гражданскую работу, например, перевод информации для избирателей некоммерческими организациями.

Оружие и слежка. Правила прямо запрещают использовать модели для создания программного обеспечения систем наведения оружия, а также для вооружения дронов и автономных транспортных средств. В правоохранительной деятельности Claude нельзя применять для принятия решений о том, кого расследовать, арестовывать или обвинять. Запрещено отслеживание людей без их согласия, однако разрешены мониторинг мошенничества, модерация контента, журналистика и юридические исследования.

Высокорисковые сценарии и оборудование. В случаях, влияющих на здоровье, права или финансы, требуется наличие квалифицированного человека, способного изменить рекомендации ИИ. Если модель подключена к оборудованию, способному совершать автономные физические действия и наносить травмы, требуется наличие оператора. Он должен иметь возможность наблюдать за оборудованием и остановить его, а само оборудование должно переходить в безопасное состояние при отключении Claude.

Отношение к моделям и доступ. Введен запрет на продолжительное и беспричинное жестокое или оскорбительное поведение по отношению к самим моделям. В крайних случаях Claude сможет самостоятельно завершать диалог с такими пользователями. Также уточнены правила регионального доступа: запрещено использование моделей лицами, находящимися в неподдерживаемых регионах, а также компаниями, которые там зарегистрированы или контролируются местными лицами.

Инвестиции. Дополнительно Anthropic анонсировала инвестиции: 150 млн долларов в течение трех лет на федеральную инициативу Genesis Mission и 100 млн долларов в Claude Frontier Academy для обучения 10 000 инженеров до конца 2027 года (включая когорты из Accenture, Bain, CBA, Deloitte, McKinsey, Morgan Stanley и Novo Nordisk). Также запускается расширенная версия Cyber Verification Program для специалистов по безопасности.

Анализ

Изменения в политике отражают переход индустрии от текстовых генераторов к автономным агентам, способным взаимодействовать с физическим миром. Требования к аппаратному обеспечению и наличию человека-оператора показывают, что ИИ все чаще интегрируется в реальные физические процессы. Снятие тотального запрета на персонализированный таргетинг в политике говорит о стремлении найти баланс между предотвращением вреда и полезным применением технологий в гражданском секторе.

Перспектива

По мере того как модели будут получать еще больше самостоятельности, правила их использования продолжат усложняться. Фокус смещается с простой фильтрации текста на системный контроль за физическими устройствами и комплексными сетями влияния. В будущем политики технологических компаний могут стать основой для формирования полноценных стандартов промышленной и информационной безопасности в эпоху автономного искусственного интеллекта.