Новые правила Пекина запрещают ИИ-компаньонов с эмоциональной привязанностью: Doubao и Qwen отключают пользовательских агентов
Крупнейшие китайские ИИ-сервисы, включая Doubao от ByteDance и Qwen от Alibaba, начали массовое отключение функций создания кастомных ИИ-агентов. Это происходит на фоне вступления в силу новых строгих регуляций КНР, направленных на ограничение сервисов, имитирующих человеческое поведение и способствующих формированию эмоциональной привязанности.
Сервис Doubao уведомил пользователей, что инструмент для создания персональных ИИ-агентов будет полностью отключен 15 июля из-за «корректировки функций продукта». Важное уточнение: после 15 октября все данные, связанные с этими агентами, будут удалены без возможности восстановления. В свою очередь, Qwen выбрал еще более сжатые сроки: пользовательские чат-боты и функции имитации личности в сервисе прекратили работу 10 июля, а оставшиеся вспомогательные возможности будут закрыты до 15 июля. В результате пользователи лишатся доступа к истории диалогов и индивидуальным настройкам своих виртуальных собеседников.
Ранее подобные инструменты позволяли создавать ИИ-помощников с заданным именем, характером и уникальной манерой общения — от виртуальных репетиторов до игровых персонажей и цифровых «друзей». Аналогичный функционал еще в июне был удален в приложении Yuanbao от компании Tencent. Государственные СМИ Китая подтвердили, что эти действия продиктованы новыми нормативными актами.
Изображение сгенерировано: Nano Banana
Регулирование «антропоморфного взаимодействия»
В апреле Управление киберпространства Китая (CAC) совместно с рядом ведомств представило документ «Временные меры для сервисов ИИ с антропоморфным взаимодействием». Правила, вступающие в силу 15 июля, жестко ограничивают сервисы, которые имитируют человеческие черты, модели мышления и стиль общения для длительного эмоционального вовлечения.
Тем не менее, ограничения не касаются практических и прикладных задач. Инструменты для поддержки клиентов, поисковые системы, рабочие ассистенты, а также образовательные и исследовательские платформы продолжат функционировать, если их архитектура не направлена на создание глубокой эмоциональной связи. Кроме того, правила накладывают дополнительные обязательства по защите несовершеннолетних, требуя внедрения систем верификации личности и инструментов для предотвращения цифровой зависимости.
Зачем власти Китая ограничивают эмоциональный ИИ
Китайские регуляторы аргументируют новые требования потенциальными рисками: от утечки персональных данных до негативного влияния на психическое здоровье и формирования нездоровой привязанности к ИИ-агентам. В Пекине подчеркивают, что это не означает запрет на технологию в целом. В июне были утверждены национальные стандарты по идентификации и использованию ИИ-агентов в промышленности, что подтверждает ставку государства на развитие высокопроизводительных решений.
На текущий момент в Китае четко вырисовывается вектор: системы, повышающие производительность, получают государственную поддержку, в то время как виртуальные «друзья» и цифровые компаньоны попадают под жесткий контроль. Пользователи уже выражают недовольство, указывая на то, что для многих такие ИИ-персонажи были единственным источником психологической разрядки, а принудительное удаление лишило их важной части цифровой биографии.
