Власти Китая возьмут под контроль работу любых алгоритмов в стране

Администрация киберпространства Китая (CAC) представила проект из 30 пунктов с «правилами управления рекомендациями по алгоритмам». Эти правила могут напрямую затронуть ByteDance, Tencent Holdings, Kuaishou Technology и другие ведущие ИТ-компании Китая, а также зарубежные компании, работающие в Китае, в частности, Apple.

Проект запрещает действия, «поощряющие зависимость или высокое потребление», а также любые системы, которые ставят под угрозу национальную безопасность или нарушают социальный и экономический порядок страны, https://www.bloomberg.com/news/articles/2021-08-27/china-pla... Bloomberg.

Согласно законопроекту, компании должны будут раскрывать основные принципы любой службы рекомендаций, которая работает на базе алгоритмов машинного обучения. Разработчик будет обязан развернуто объяснить, как и зачем система обрабатывает информацию и выдает пользователям те или иные рекомендации «в явной манере». При этом разработчики любых алгоритмов должны будут предоставить своим пользователям "удобные варианты отключения рекомендаций по алгоритмам" и немедленно выполнять требования об отказе от их использования.

Алгоритмы также больше не смогут быть использованы для ценовой дискриминации на основе предпочтений и привычек пользователей.

Администрация киберпространства предлагает поставщикам регулярно оценивать и тестировать свои алгоритмы и данные, чтобы избегать моделей, которые будут даже косвенно влиять на поведение пользователей. Даже если работа платформ ИТ-компаний непредумышленно скажется на частных пользователях, регулятор засчитает это за нарушение новых правил.

Алгоритмы также нельзя будет использовать для создания фальшивых учетных записей или ложного влияния на ранжирование и результаты поиска, чтобы принести пользу поставщику, повлиять на онлайн-дискурс или избежать надзора со стороны регулирующих органов.

Ранее в этом месяце Всекитайское собрание народных представителей одобрило связанный законопроект, посвященный защите конфиденциальных данных. Последний акт, который вступит в силу 1 ноября 2021 года, запретит обработку личных данных без согласия пользователей, а также обяжет организации сотрудничать в этой области с госорганами.