Китайские ИИ-платформы ограничивают создание цифровых персонажей

Новые требования Управления по вопросам киберпространства КНР запрещают распространение материалов, способных искажать восприятие реальности или формировать у несовершеннолетних патологическую привязанность к ИИ-собеседникам. Под действие ограничений подпадают не только проекты ByteDance и Alibaba, но и сервис Yuanbao от Tencent. Ранее пользователи могли легко создавать цифровых психологов, виртуальных партнеров или имитации знаменитостей, просто задав текстовый запрос.

Помимо борьбы с эмоциональной зависимостью, власти ужесточили контроль за конфиденциальностью данных. Платформам запрещено использовать информацию из личных переписок для дообучения моделей, если эти сведения признаны приватными. Эти меры знаменуют собой конец периода бесконтрольного творчества в китайском сегменте генеративного ИИ, где разработчики активно экспериментировали с персонализированными чат-ботами для удержания пользовательского внимания.