02.03.2022

Как обмануть нейросеть

За последнее десятилетие о нейронах узнали больше, чем за прошедшие полвека, а еще сто лет назад о своем мозге мы не знали ничего. Но тут надо учитывать и второй процесс — ровно такие же изменения произошли и с искусственными заменителями нейронов, микропроцессорами.

Современный уровень микропроцессоров позволяет практически полностью скопировать все ныне открытые функции человеческого нейрона. Как оказалось, структуры мозга челоекв часто чрезвычайно избыточны. Именно поэтому достаточно сложная функция распознавания лиц сегодня может быть реализована в рамках очень скромной нейросети, которая доступна даже для недорогих любительских фотокамер, - математика помогает, в этом случае, построить эффективную и простую нейросеть, которая заменяет сложные структуры человеческого мозга.

Может ли человек изменить лицо до неузнаваемости, например, чтобы его не идентифицировала ни одна система видеонаблюдения ни одной службы общественной безопасности? Эту возможность исследовала израильско-японская команда исследователей из Университета им. Бен-Гуриона и NEC Corporation. Свои результаты она обнародовала в сентябре 2021 г. Исследователи искали технологию, которую каждый человек мог бы использовать многократно, чуть ли не каждый день. Поэтому они отвергли радикальные варианты изменения внешности типа хирургического вмешательства и ограничились нанесением грима. А вот задачу подобрать грим поручили нейросети.

На верхнем изображении человек опознан обычной системой распознавания лиц. На среднем изображении использован «цифровой макияж». В результате личность не установлена.

Новая технология прежде всего определяет те части лица, которые наиболее часто считывает система распознавания. Далее нейросеть подбирает специальный макияж, который поможет обмануть систему. Этот процесс состоит из нескольких этапов.

Первоначально алгоритм считывает несколько фотографий человека и случайных людей одного с ним пола. Затем нейросеть составляет карту лица, где отмечает основные области, являющиеся отличительными чертами конкретного человека. Далее на основе карты создается виртуальное лицо, на которое наносится виртуальный макияж. Это лицо снова пропускают через систему распознавания, и это повторяется несколько раз, пока система не перестанет узнавать лицо. Затем этот виртуальный результат воспроизводится в настоящей реальности, то есть настоящий грим наносят на подлинное лицо.

Исследователи проверили эффективность такой технологии изменения внешности на 20 добровольцах (10 женщин и 10 мужчин), используя систему распознавания лиц ArcFace. Итоги эксперимента звучат так: «Система распознавания лиц смогла идентифицировать участников только в 1,22% кадров (по сравнению с 47,57% без макияжа и 33,73% со случайным естественным макияжем), что ниже разумного порога реалистической рабочей среды». То есть нейросеть подбирает грим, с помощью которого можно обмануть систему распознавания лиц почти в 99% случаев. Авторы отмечают, что их разработка обманывает не только системы распознавания, но всех окружающих людей. Макияж смотрится естественно, и человек не выделяется из толпы.

Карен Шапиро 04 февраля 2022, 19:58

Источник: naukatehnika.com

На нашей информационной площадке "ДайджестВизард" вы сможете найти больше новостей IT

Информируем Вас о наших курсах для IT-специалистов по программированию:

    Программирование на Java с нуля
    Алгоритмизация и структурное программирование на C++
    Язык программирования Visual C#. Создание .Net Framework приложений
    Разработка реляционных баз данных в MS SQL Server. Язык запросов Transact-SQL
    Программирование на языке Python. 1 уровень

Посмотреть больше курсов