ЕС готовит полный запрет на использование ИИ в массовой слежке и социальном рейтинге

Согласно законопроекту, страны-участники ЕС будут обязаны сформировать советы по оценке потенциально опасных систем ИИ. А компании, разрабатывающие и продающие запрещенные программы в ЕС – в том числе иностранные – будут оштрафованы на сумму до 4% от глобальных поступлений, если продолжат свою деятельность на территории Евросоюза, https://www.theverge.com/2021/4/14/22383301/eu-ai-regulation... Verge.

Помимо этого, в предложении перечислены следующие меры:

Запрет на ИИ для «массовой слежки», в том числе, на системы, которые следят за людьми напрямую или собирают о них сведения из других источников.

Запрет на системы ИИ, которые создают баллы социального кредита, то есть оценивают чью-то благонадежность на основании социального поведения или личных качеств.

Специальное разрешение на использование систем удаленной биометрической идентификации вроде распознавания лиц в общественных местах.

Необходимость оповещения человека перед взаимодействием с ИИ, кроме тех случаев, когда это очевидно.

Контроль над опасными системами ИИ, включая те, которые несут прямую угрозу безопасности, как робомобили, и те, которые способны повлиять на средства к существованию человека, например, при приеме на работу, принятии юридических и финансовых решений.

Оценка несущих риск систем перед введением в эксплуатацию – они должны быть понятны стороннему наблюдателю и быть обучены на «высококачественных» данных.

Создание «Европейского совета по искусственному интеллекту», состоящего из представителей каждого национального государства, который будет помогать Еврокомиссии решать, какие системы ИИ считать опасными.

Неизвестно, какие изменения будут внесены в этот документ перед официальным оглашением 21 апреля. Но как только законопроект будет официально внесен на обсуждение, члены Европарламента смогут откорректировать его, прежде чем он отправится на голосование в каждое национальное государство.

В начале прошлого года Еврокомиссия обсуждала https://hightech.plus/2020/01/20/evrosoyuz-hochet-zapretit-r... на использование технологии распознавания лиц в общественных местах сроком от трех до пяти лет. Исключения могли быть сделаны для исследовательских проектов, а также в целях обеспечения безопасности. Затем законодатели https://hightech.plus/2020/02/13/evrosoyuz-peredumal-zapresh... от моратория. Вместо этого Еврокомиссия призвала каждую из стран-участницы ЕС установить собственные правила.