Власти Китая ввели новые правила для сервисов с AI-компаньонами. Теперь чат-ботам запрещено поощрять эмоциональную зависимость пользователей, строить романтические отношения и создавать иллюзию, что они могут заменить реальное общение. Новые требования вступили в силу 16 июля.
Что изменилось
Новые правила распространяются на сервисы, которые предлагают виртуальных «парней», «девушек» и других AI-компаньонов.
Теперь таким платформам запрещено:
намеренно формировать эмоциональную зависимость пользователей;
поддерживать романтические отношения с несовершеннолетними;
использовать манипулятивные механики, побуждающие проводить в сервисе больше времени.
Кроме того, компании обязаны вмешиваться, если система обнаружит признаки психологического кризиса или опасного поведения пользователя. В отдельных случаях сервис должен уведомить экстренный контакт, указанный владельцем аккаунта.
Почему Китай ужесточает правила
Одной из причин называют демографический кризис. Власти опасаются, что развитие AI-компаньонов может снижать интерес к реальным отношениям, браку и созданию семьи. По мнению регуляторов, подобные сервисы способны усиливать социальную изоляцию, эмоциональную зависимость и вызывать привыкание.
Под новые требования уже начали адаптироваться крупнейшие китайские компании, включая Alibaba и ByteDance. Некоторые функции AI-компаньонов были отключены еще до вступления правил в силу.
Какой сигнал для рынка AI?
Китай стал одной из первых стран, которая начала регулировать не только безопасность генеративного ИИ, но и его эмоциональное взаимодействие с пользователями.
Пока США и страны Европы в основном требуют предупреждать пользователей о том, что они общаются с искусственным интеллектом, китайский подход идет значительно дальше и ограничивает саму возможность построения «романтических» отношений между человеком и AI. Эксперты считают, что подобные меры могут стать ориентиром для других государств, которые также обсуждают регулирование сервисов с AI-компаньонами.