истории

Как сойти за Миллу Йовович в глазах компьютера Исследователи научились обманывать систему распознавания лиц

Источник: Quartz

Распознавание лиц уже используется для авторизации на компьютерах и для покупок в магазинах. Казалось бы, это один из хороших и удобных способов, но и у него есть недостатки. Ученые из Университета Карнеги — Меллон научились делать такие очки, которые позволяют выдать надевшего их за другого человека — хоть за Джона Малковича, хоть за Миллу Йовович. 

Распознавание лиц основано на нейронных сетях, которые обучаются на множестве примеров. Компьютеру показывают тысячи и миллионы лиц, и он начинает «понимать», где нос, брови и так далее. После этого, если показать определенное лицо, то компьютер считывает известные ему паттерны; анализирует, на что похож запрос; и выдает ответ. 

Ученые из Университета Карнеги — Меллон научились обманывать систему распознавания. Для этого они раскрашивали очки таким образом, что компьютер начинал ошибаться и принимал человека за другого. Для тестирования они использовали уже существующие нейронные сети, которые умеют очень хорошо распознавать лица — иногда лучше человека. 

Исследователям удалось выдать белого мужчину за Миллу Йовович почти в 90 процентах случаев. Женщину азиатской внешности в специальных очках компьютер в стольких же процентах случаев принимал за мужчину с Ближнего Востока. 

Кроме того, они попробовали свой метод на коммерческой программе Face++, которая используется в Alibaba для авторизации платежей. В этом случае они не сажали человека в очках перед камерой, а сначала делали его фотографию в очках и потом загружали ее в программу. В итоге им удалось выдать одного человека за другого в 100 процентах случаев. 

При исследовании высокий уровень обмана означает, что 40-летнюю белую женщину можно выдать за Джона Малковича, но кроме того, успех ученых означает, что кто-то может проникнуть в здание, где защита обеспечивается при помощи системы распознавания лиц, или похитить данные с компьютера. (англ. яз.)