Как сойти за Миллу Йовович в глазах компьютера Исследователи научились обманывать систему распознавания лиц
Распознавание лиц уже используется для авторизации на компьютерах и для покупок в магазинах. Казалось бы, это один из хороших и удобных способов, но и у него есть недостатки. Ученые из Университета Карнеги — Меллон научились делать такие очки, которые позволяют выдать надевшего их за другого человека — хоть за Джона Малковича, хоть за Миллу Йовович.
Распознавание лиц основано на нейронных сетях, которые обучаются на множестве примеров. Компьютеру показывают тысячи и миллионы лиц, и он начинает «понимать», где нос, брови и так далее. После этого, если показать определенное лицо, то компьютер считывает известные ему паттерны; анализирует, на что похож запрос; и выдает ответ.
Ученые из Университета Карнеги — Меллон научились обманывать систему распознавания. Для этого они раскрашивали очки таким образом, что компьютер начинал ошибаться и принимал человека за другого. Для тестирования они использовали уже существующие нейронные сети, которые умеют очень хорошо распознавать лица — иногда лучше человека.
Исследователям удалось выдать белого мужчину за Миллу Йовович почти в 90 процентах случаев. Женщину азиатской внешности в специальных очках компьютер в стольких же процентах случаев принимал за мужчину с Ближнего Востока.
Кроме того, они попробовали свой метод на коммерческой программе Face++, которая используется в Alibaba для авторизации платежей. В этом случае они не сажали человека в очках перед камерой, а сначала делали его фотографию в очках и потом загружали ее в программу. В итоге им удалось выдать одного человека за другого в 100 процентах случаев.
При исследовании высокий уровень обмана означает, что 40-летнюю белую женщину можно выдать за Джона Малковича, но кроме того, успех ученых означает, что кто-то может проникнуть в здание, где защита обеспечивается при помощи системы распознавания лиц, или похитить данные с компьютера. (англ. яз.)
«Медуза» — это вы! Уже три года мы работаем благодаря вам, и только для вас. Помогите нам прожить вместе с вами 2025 год!
Если вы находитесь не в России, оформите ежемесячный донат — а мы сделаем все, чтобы миллионы людей получали наши новости. Мы верим, что независимая информация помогает принимать правильные решения даже в самых сложных жизненных обстоятельствах. Берегите себя!