• USD 78.21
  • EUR 90.93
  • BRENT 42.26 -0.28%

Светодиоды, кепка и очки: как обмануть системы распознавания лиц

Иллюстрация: the-steppe.com

Современные нейросетевые технологии, позволяющие распознавать лица, совершенствуются. Но в то же время развиваются и способы, с помощью которых нейросеть можно ввести в заблуждение. Как уже писало EADaily, один из способов обойти фотобиометрические системы с помощью специального макияжа был разработан сотрудником «Яндекса». О предыстории и перспективах способов обмана системы распознавания лиц рассказывает исполнительный директор, начальник управления статистического анализа банка «Ренессанс Кредит» Сергей Афанасьев.

Способы обмана систем распознавания лиц были придуманы ещё до того как сотрудник Яндекса Григорий Бакунов в 2017 году предложил свой метод. Например, в 2014 году в продаже появилась бейсболка Justice Cap, оснащенная светодиодами, которые засвечивали лицо для фото- и видеокамер. Это оказалось очень простым и эффективным способом скрыться от видеонаблюдения. Стоила такая кепка всего $ 15.

В 2015 году американский математик Ян Гудфелоу разработал алгоритм для атаки на нейронные сети, распознающие объекты на фотографиях. Он добавил к фотографии панды специально сгенерированный шум и получил изображение, которое нейронная сеть распознавала как гиббона, хотя человек по-прежнему видел панду на обработанной фотографии.

Этот пример стал хрестоматийным для научных исследований и показал «темную сторону» генеративно-состязательных нейронных сетей, которые, кстати, тоже придумал Гудфелоу.

Годом позже исследователи из Университета Карнеги-Меллона (США) продолжили развивать идеи Гудфелоу и предложили с помощью нейросетей генерировать специальный принт для оправы очков. Цель была та же — обойти системы распознавания лиц. Разработанная нейронная сеть позволила подбирать специальные принты, которые «превращают» человека в любую выбранную знаменитость, или другого человека. Например, один из исследователей, надев такие очки, стал для фотобиометрической системы Милой Йовович.

Еще спустя год на одной из выставок дизайнер Дзинь-Цай Лю предложила надевать на голову портативный проектор, который проецирует на лицо человека другое лицо. И хотя это был арт-проект без практической реализации, идею позже подхватили китайские исследователи.

В 2018 году инженеры из Фуданьского университета и компании Алибаба предложили использовать инфракрасные светодиоды для взлома систем распознавания лиц. Для этого они прикрепили светодиоды на нижнюю часть козырька обычной кепки. Принцип работы достаточно простой: инфракрасные лучи, падающие на лицо человека, образуют пятна, которые не видны человеческому глазу, но фотокамера их отлично ловит. В результате на систему распознавания лиц отправляется фотография с пятнами, которую нейросеть не может сравнить с базовой фотографией.

Кроме простого взлома, инженеры разработали сложный режим работы светодиодов. Они обучили модель, которая обманывает Open Source фотобиометрию FaceNet от компании Google. Разработанная учеными модель оптимизирует несколько параметров: яркость луча, угол наклона луча и диаметр пятна. В результате можно загрузить фотографию жертвы и алгоритм выдаст оптимальные параметры калибровки светодиодов, чтобы фотобиометрия FaceNet распознала на фото жертву, а не мошенника. Для людей с похожим типом внешности (раса, пол и т. д.) точность прохождения фотобиометрии за жертву составила около 70%.

Такую кепку можно сделать и собственными руками, закупив комплектующие в обычном магазине электроники. Единственным неудобством такой кепки является то, что инфракрасный свет оставляет ожоги на коже человека. Поэтому исследователи не рекомендовали носить кепку с работающими светодиодами более одной минуты.

Несмотря на то, что атаки на нейронные сети могут использовать и преступники, ученые пытаются найти в этих разработках добрую миссию — например, использовать атаки на нейронные сети как борьбу с «Большим братом». Недавно чикагские инженеры бросили вызов технологическим компаниям, собирающим фотографии о пользователях в интернете с целью последующей перепродажи этих данных полицейским ведомствам и частным компаниям. Ученые разработали инструмент под названием Fawkes (Фокс), который маскирует фотографии для защиты от фотобиометрических систем. Исследователи смогли обмануть системы распознавания лиц от Amazon, Microsoft и китайской технологической компании Megvii. Всего за месяц Fawkes скачали больше 50 тысяч раз с сайта для разработчиков. Сейчас инженеры работают над бесплатной версией для массового пользователя.

За несколько лет существования фотобиометрических систем было придумано множество способов их взлома: специальный макияж, платки и накидки с лицами других людей, стеклянные преломляющие маски, накладные маски с чужим лицом, очки со светодиодами и даже светоотражающая одежда. Например, костюм с вкраплением светоотражающих нитей, из-за которых на фото виден только сам костюм.


Следующий ход — за нейросетями…

Постоянный адрес новости: eadaily.com/ru/news/2020/09/14/svetodiody-kepka-i-ochki-kak-obmanut-sistemy-raspoznavaniya-lic
Опубликовано 14 сентября 2020 в 13:00
Добавьте EAD в свои источники:Яндекс-Новости Google News
Все новости

26.09.2020

Загрузить ещё
Опрос
Что будет дальше с Алексеем Навальным?
Результаты опросов
ВКонтакте
ТОП-10
  • Сутки
  • Неделя
  • Месяц
  1. Поляков взбесила фраза Тихановской о Польше, где «президент слушает народ» 74532
  2. У Грузии нет права разговаривать с Россией — Бесо Барбакадзе 30349
  3. Путин никогда не согласится содержать Грузию: интервью с Сосо Цинцадзе 30218
  4. Турция «макнула» американского спикера в «образцовое невежество» 19956
  5. Белоруссия — начало. Россию ждут удары с Запада, Юга и Востока — Колотов 16041
  6. Грузинский политик потребовал от Баку освободить «захваченные» территории 14859
  7. Лукашенко пообещал проблемы тем, кто обучается в Польше 11377
  8. Самолет с курсантами разбился под Харьковом: события ночи 26 сентября 10335
  9. Борьба Москвы и Запада за Белоруссию переносится на территорию России 9884
  10. Планы Европы по водороду возбудили Украину 9169
  1. Поляков взбесила фраза Тихановской о Польше, где «президент слушает народ» 216808
  2. У Грузии нет права разговаривать с Россией — Бесо Барбакадзе 174699
  3. Подходы к Крыму с моря и воздуха заблокированы, Шойгу вылетел на полуостров 123209
  4. Транспортный коллапс на границах Украины — в очередях стоят тысячи фур 107269
  5. Яхта Абрамовича с пятью женщинами привлекла внимание турецких СМИ 95048
  6. Польша в яблоках: страна не оправилась от продэмбарго России и хочет назад 94236
  7. Если бы США могли ликвидировать Путина, они бы сделали это — Яков Кедми 90621
  8. Эксперт: Китай и США не поддержат предложение Путина 50144
  9. Зеленский в ООН — Россия развязала войну в Европе 49498
  10. Элксниньш: Латвия так увлеклась «войной» с Россией, что сгубила экономику 48886
  1. «Переплюнула Навального»: Кортеж Тихановской в Варшаве высмеяли в соцсетях 424883
  2. Будет и признание Крыма, и единая валюта — белорусский эксперт 236613
  3. США определились со статусом Лукашенко 233273
  4. Поляков взбесила фраза Тихановской о Польше, где «президент слушает народ» 216808
  5. Незыгарь: Белорусских революционеров готовил на Украине молдавский олигарх 216378
  6. У Грузии нет права разговаривать с Россией — Бесо Барбакадзе 174699
  7. Брюссель отказался прикрывать Меркель, если та не выполнит обещания Москве 134594
  8. Подходы к Крыму с моря и воздуха заблокированы, Шойгу вылетел на полуостров 123209
  9. Вучич не мог сесть перед Трампом как равный, «это был сигнал Москве» 115547
  10. Семьи с детьми от 3 до 7 лет получат дополнительные пособия 114405