Китайский орган по кибербезопасности вынес на общественное обсуждение проект правил, регулирующих работу ИИ-сервисов, которые способны имитировать человеческую личность.
Требования будут распространяться на продукты и услуги с искусственным интеллектом, воспроизводящие человекоподобное мышление и манеру общения и взаимодействующие с пользователями на эмоциональном уровне. В процессе такого взаимодействия могут использоваться тексты, изображения, аудио-, видеоматериалы и другие форматы контента.
Цель документа — ужесточить требования к безопасности и этическим аспектам работы поставщиков подобных сервисов.
Проект правил обязывает поставщиков услуг:
нести ответственность за безопасность на протяжении всего жизненного цикла продукта;реализовать систему проверки алгоритмов для защиты данных и приватной информации;оценивать эмоциональное состояние пользователей, их уровень психологической зависимости от сервиса, а также вмешиваться в случае необходимости.
Проект также предусматривает запрет для ИИ-сервисов на создание контента, который может угрожать национальной безопасности Китая, распространять дезинформацию либо поощрять насилие и непристойное поведение.
Еще в 2021 году Министерство науки и технологий КНР представило свод этических принципов в сфере искусственного интеллекта, ориентированных на защиту прав пользователей и снижение возможных рисков. Среди ключевых положений назывались требования к управляемости и надежности ИИ, соблюдению принципов честности и справедливости, а также развитию этической культуры.
Спустя два года Администрация киберпространства Китая обнародовала правила регулирования генеративных алгоритмов ИИ. Наряду с требованиями по обеспечению достоверности информации и соблюдению прав интеллектуальной собственности в документе отдельно подчеркивался запрет на призывы к подрыву государственного строя.
Кроме того, китайские власти ранее заявляли об опасениях, связанных с возможным перегревом рынка человекоподобных роботов.
Как считаете несет ли опасность человечеству бурное развитие ИИ?
#NEW #newscrypto #news_update