Китай первым в мире ввел подробные правила регулирования генеративного ИИ

Семь китайских регулирующих органов во главе с Администрацией киберпространства Китая совместно опубликовали предварительные правила, которые вступят в силу 15 августа. По сравнению с проектом, опубликованным в апреле для получения отзывов общественности, новые требования более «благосклонны». Власти обещают принять эффективные меры для поощрения инновационного развития генеративного ИИ.

Штрафы за правонарушения, связанные с технологией, которые ранее достигали от 10 000 до 100 000 юаней, убрали.

В соответствии с новыми правилами поставщики услуг генеративного ИИ должны «придерживаться основных социалистических ценностей» и не создавать никакого контента, который «подстрекает к подрыву государственной власти и свержению социалистической системы, ставит под угрозу национальную безопасность и интересы, наносит ущерб имиджу страны, подстрекает к отделению от страны, подрывает национальное единство и социальную стабильность, пропагандирует терроризм, экстремизм, национальную ненависть и этническую дискриминацию, насилие, непристойность и порнографию». В целом, модели ИИ и чат-боты не должны генерировать «ложную и вредную информацию».

Разработанные в Китае чат-боты и модели искусственного интеллекта уже имеют встроенные функции, гарантирующие, что создаваемый контент не содержит нежелательной информации. Например, некоторые представленные чат-боты прекращают разговор, как только пользователь вводит определенное слово.

Что касается разработки алгоритмов и выбора данных для обучения, регулирующие органы Китая требуют, чтобы поставщики услуг избегали любой дискриминации по признаку этнической принадлежности, вероисповедания, страны, региона, пола, возраста, профессии и состояния здоровья, а также уважали права интеллектуальной собственности.

Постановление согласовывает развитие ИИ с политическими и экономическими приоритетами Китая в соответствии с его постановлением 2021 года об алгоритмах рекомендаций и постановлением 2022 года о синтетическом контенте, который Пекин требует маркировать как «искусственно созданный».

Китай еще не разрешил ни одной отечественной компании развернуть услуги наподобие ChatGPT для широкой публики, а Ernie Bot от Baidu и Tongyi Qianwen от Alibaba либо находятся в пробном режиме, либо предназначены только для коммерческого использования. Между тем ChatGPT от OpenAI и Bard от Google остаются недоступными в Китае, а ссылки на эти зарубежные модели блокируются. Новые правила, хотя и предназначены для тщательного контроля над развитием генеративного ИИ, скорее всего, проложат отечественным разработчикам путь для вывода продукции на массовый рынок.