Китай ужесточит регулирование человекоподобного ИИ

Китайский регулятор в сфере кибербезопасности опубликовал для общественного обсуждения проект правил надзора над ИИ-сервисами, имитирующими человеческую личность. Об этом сообщает Reuters.

Нормы будут применяться к продуктам и услугам на базе искусственного интеллекта, которые воспроизводят человекоподобные модель мышления и стиль общения, взаимодействуя с пользователем на эмоциональном уровне. В коммуникациях могут применяться тексты, изображения, аудио, видео и другие материалы.

Документ призван усилить требования к провайдерам подобных сервисов с точки зрения безопасности и этики.

Проект правил обязывает поставщиков услуг:

• нести ответственность за безопасность на протяжении всего жизненного цикла продукта;
• реализовать систему проверки алгоритмов для защиты данных и приватной информации;
• оценивать эмоциональное состояние пользователей, их уровень психологической зависимости от сервиса, а также вмешиваться в случае необходимости.

Предлагаемые меры также запрещают ИИ-сервисам генерировать контент, который ставит под угрозу национальную безопасность КНР, распространяет слухи или пропагандирует насилие и непристойности. 

Министерство науки и технологий Китая еще в 2021 году представило набор этических принципов регулирования искусственного интеллекта с упором на защиту прав пользователей и предотвращение рисков. В числе основных пунктов значились: обеспечение «управляемости и надежности» ИИ, честности и справедливости, а также повышение этической грамотности.

Через два года Администрация киберпространства опубликовала правила регулирования алгоритмов генеративного ИИ. При требованиях вроде обеспечения достоверности контента и уважения интеллектуальной собственности отдельно упоминался запрет на призывы к подрыву государственного строя.

Напомним, власти Китая увидели угрозу перегрева рынка человекоподобных роботов.