Программа Fawkes блокирует работу всех сервисов распознавания лиц по фото

Разработчики программы Fawkes, специалисты из Чикагского университета, придумали и реализовали процесс маскировки цифровых изображений, который делает их непригодными для технологии распознавания лиц. Они заявили, что Fawkes предназначен для защиты фотографий, загружаемых в социальные сети, от использования для обучения машинных алгоритмов без согласия владельцев.

Так, к примеру, поступила компания Clearview AI, которая собрала три миллиарда фотопортретов из Facebook, YouTube, Venmo и прочих мест, и на их примере научила ИИ распознавать незнакомцев.

Авторы Fawkes утверждают, что их программа на 100% эффективна против самых современных сервисов распознавания лиц: Microsoft Azure Face, Amazon Rekognition или Face++ китайского ИТ-гиганта Megvii. Для обработки каждого изображения программе требуется несколько минут, https://www.theverge.com/2020/8/4/21353810/facial-recognitio... Verge.  

Покрытые масками фотографии используются, по словам разработчиков, как троянский конь, чтобы сбить с толку неавторизованные модели. Они ошибочно полагают, что нашли отличительные черты, характерные для изображенного человека, но это не так.

Если вы не хотите, чтобы ваше лицо на фотографиях в социальных сетях использовалось для обучения систем распознавания и в их работе, то перед выгрузкой карточек в соцсети вам необходимо пропустить их через алгоритм Fawkes и запостить уже обработанные фото. Для друзей ваше лицо не изменится, но машины перестанут вас узнавать.

Выше - пример работы алгоритма. Слева оригинальный, не измененный потрет королевы Елизаветы II, а справа - обработанный алгоритмом вариант этого снимка.

Человеческий глаз не способен найти отличия, но на уровне машинного считывания черт лица они есть и очень существенные.

Исследование с описанием работы алгоритма было опубликовано ранее, а в прошлом месяце Fawkes стала на сайте университета для свободного скачивания и использования. С тех пор ее загрузили свыше 100 000 раз.

Недавно с призывом ввести мораторий на применение технологии распознавания лиц на всей территории США https://hightech.plus/2020/07/02/polnii-zapret-tehnologii-ra... Ассоциация вычислительной техники (ACM) — крупнейшая и старейшая международная организация, объединяющая более 100 тысяч профессионалов в области IT. Причина в задокументированной этнической, расовой и гендерной предвзятости, которую проявляют системы, использующие алгоритмы распознавания.