Крупнейшие китайские технологические компании вынуждены отключить функции создания персонализированных ИИ-агентов из-за вступления в силу новых правил взаимодействия с искусственным интеллектом.
2 мин
Китайские технологические гиганты ByteDance и Alibaba Group объявили об отключении функций пользовательских ИИ-агентов в своих популярных приложениях Doubao и Qwen. Это решение напрямую связано с новыми государственными правилами, регулирующими антропоморфные (человекоподобные) сервисы искусственного интеллекта, которые вступают в силу 15 июля.
Китай последовательно выстраивает нормативную базу для быстрорастущего сектора искусственного интеллекта. В апреле этого года были опубликованы «Временные меры по администрированию сервисов антропоморфного взаимодействия с использованием искусственного интеллекта». Этот документ стал реакцией властей на растущую популярность чат-ботов, способных имитировать человеческое общение, эмоции и особенности личности.
Согласно уведомлениям компаний, процесс отключения пройдет в несколько этапов. Qwen начнет отключать функции создания пользовательских агентов 10 июля, а к 15 июля полностью закроет доступ к сервисам интерактивных агентов. Doubao также отключит эти функции 15 июля, а после 15 октября все связанные с ними данные пользователей будут удалены или скрыты в соответствии с политикой конфиденциальности. Ранее в этих приложениях пользователи могли настраивать большие языковые модели (LLM), превращая их в виртуальных компаньонов, репетиторов или персонажей для ролевых игр с заданным тоном и характером.
Doubao, a ChatGPT-like conversational bot developed by TikTok owner ByteDance, informed users on Friday night that its agent feature would go offline on July 15. Photo: Simon Song
Новые правила четко фокусируются на сервисах, которые «имитируют черты человеческой личности, модели мышления и стили общения для обеспечения продолжительного эмоционального взаимодействия». Регуляторы обеспокоены рядом рисков: от распространения экстремистских идей и утечек конфиденциальных данных до негативного влияния на физическое и психическое здоровье граждан, включая риск возникновения психологической зависимости от ИИ.
Важно отметить, что закон делает исключения. Стандартные боты для обслуживания клиентов, системы вопросов и ответов, рабочие ассистенты, а также образовательные и научные инструменты не попадают под запрет, если они не предполагают формирования эмоциональной привязанности.
Этот прецедент показывает, как смещается фокус регулирования. Если раньше власти концентрировались на контроле за генерацией контента и авторских правах, то теперь внимание переходит на психологические и социальные аспекты взаимодействия человека и машины. Время покажет, станет ли китайский подход моделью для других стран, где ИИ-компаньоны также набирают популярность.
Китай вводит жесткое регулирование эмоционального взаимодействия с ИИ, заставляя техногигантов отключать функции создания персонализированных виртуальных компаньонов.
Власти начинают видеть реальную угрозу не только в генерации недостоверной информации, но и в психологической зависимости людей от антропоморфных ИИ-моделей.
