истории

Правда ли белорусских силовиков научились распознавать под масками? Их деанонимизация стала оружием сопротивления Но технология пока не готова, признался «Медузе» ее разработчик

Источник: Meduza

24 сентября разработчик Андрей Максимов продемонстрировал работу программы, деанонимизирующей белорусских силовиков. Алгоритм способен распознать лицо человека, участвующего в подавлении протестов, даже если оно скрыто за маской, фуражкой или балаклавой, заявил Максимов. Но кроме ролика, вызывающего сомнения у специалистов, других подтверждений существования рабочего алгоритма нет. Алгоритм пока не готов, в итоге признался сам Максимов «Медузе».

Каждый будет знать ваше лицо

«Мне кажется, вы не до конца осознаете всю серьезность вашей ситуации. У вас нет масок, вы живете не в том веке. Все ваши лица и все ваши фото будут возвращены на видео ваших противозаконных действий. Сколько бы носков вы ни наматывали себе на голову», — обратился Максимов к силовикам; видео с заявлением разработчика с тех пор набрало более миллиона просмотров на ютьюбе.

Ни об истории разработки, ни об особенностях своей технологии по распознаванию изображений Максимов в ролике не рассказывает. Демонстрация алгоритма начинается с попытки установить личность одного из сотрудников минского ОМОН: мужчина, чье лицо почти полностью скрыто балаклавой, был снят на видео при попытке задержания несовершеннолетнего; когда окружившие силовика протестующие призвали его отпустить подростка, боец спецподразделения достал гранату и в качестве предупреждения взялся за чеку.

Алгоритм — в видео показан его интерфейс — выделяет лицо омоновца и сравнивает его с базой фотографий силовиков (Максимов не ответил на вопрос «Медузы» о происхождении этой базы). Кроме имени и даты рождения программа показывает адрес идентифицированного силовика, а также справку о его правонарушениях («избивал мирных граждан 9–10 августа в Минске») и сведения о семье, в том числе совместную фотографию с сыном.

«Через несколько коротких лет ваш ребенок увидит именно эти фотографии на страницах учебников современной истории Беларуси — и… с большим презрением он задаст вам самый страшный вопрос вашей жизни: „Папа, почему ты не думал сам за себя?“ — продолжает Максимов. — Всем, кто продолжает терроризировать мирных людей, я обещаю: каждый человек, которого вы встретили, до конца вашей жизни будет знать ваше лицо».

Всего в видео идентифицированы восемь человек, но Максимов пообещал деанонимизировать всех силовиков, которые продолжат участвовать в акциях подавления протестов. «Ваши начальники и идеологи постоянно твердят вам, что ваш народ нужно избивать, потому что все их используют в чужих целях, — говорит разработчик. — Просто заболейте на один день, езжайте в город, в котором вас никто не знает, пройдитесь с беларусами, узнайте, зачем они вышли, кто им „заплатил“. Проверьте сами, за что вы их бьете».

Андрей Максимов — белорусский разработчик игр, живущий в Калифорнии. Свою карьеру он начинал 3D-художником в белорусском офисе Wargaming, а после переезда в Лос-Анджелес устроился в компанию Naughty Dog, где быстро вырос до арт-директора и работал над Uncharted и The Last of Us — двумя главными франшизами компании.

Распознаванием лиц Максимов раньше не занимался; последний его проект — это инструмент Promethean AI для создания 3D-контента в играх при помощи искусственного интеллекта. Программа распознает голосовые команды и визуализирует то, что ей говорит художник. «Достаточно сказать: „Прометей, создай комнату“, — и на мониторе тут же появится комната с мебелью, которую можно переставлять по своему усмотрению. <…> Программировать при этом ничего не надо, просто перетаскиванием мыши меняете положение объектов и настраиваете готовый макет под себя», — объяснял Максимов.

Работой над системой распознавания он занимается в составе неформальной группы айти-специалистов, рассказал Максимов в разговоре с «Медузой», в основном это эмигрировавшие в США белорусы. «Плюс несколько иностранцев помогают, — говорит он. — Первые несколько недель, когда [в Беларуси] начался весь этот кошмар, я просто собирал деньги и отсылал их туда для поддержки людей, но скоро стало понятно, что надо делать что-то большее, — и пришла идея заняться вот таким цифровым активизмом».

Деанон как инструмент воздействия

Первое сообщение о разработке Максимова появилось в оппозиционном телеграм-канале Nexta, который и сам занимается массовой деанонимизацией силовиков.

Еще 11 сентября авторы Nexta сообщили, что белорусские «киберпартизаны» взломали базу сотрудников МВД страны — и передали Nexta личные данные десятков тысяч «особей из структур оккупантов». Канал обещал их обнародовать, если силовики не прекратят «исполнять преступные приказы».

19 сентября, после задержаний на женском марше, создатели Nexta начали приводить угрозу в исполнение: канал опубликовал личные данные более тысячи сотрудников МВД. «При продолжении задержаний мы продолжим массовую публикацию данных», — предупредили авторы Nexta, призвав подписчиков помочь в деанонимизации. «Если вам известны… адреса, телефоны, номера авто, привычки, любовницы/любовники… — пишите в бот, — призвал канал. — Никто не останется анонимным даже под балаклавой».

В списке (сейчас выложенный в сервисе Google Sheets перечень уже заблокирован из-за нарушения политики конфиденциальности) названы полные имена сотрудников милиции, а также их звания и отделения МВД, где они служат. 200 человек из базы деанонимизированных сообщили о готовности уволиться на следующий же день после публикации своих персональных данных — об этом рассказал Ярослав Лихачевский, представитель фонда солидарности BYSOL, который оказывает ушедшим со службы силовикам финансовую и юридическую помощь. «Деанон силовиков — это очень сильный инструмент воздействия на них», — объяснил Лихаческий.

Еще в августе в телеграме появился канал «Каратели Беларуси — имена, адреса, родственники», где публикуют фотографии, телефоны и ссылки на соцсети белорусских силовиков, участвующих в подавлении протестов. Откуда взялась эта информация, создатели канала не объясняют; в одном из постов упоминается, что данные о сотрудниках ОМОН присылают «их же родственники».

Все сведения об идентифицированных силовиках собираются в единую базу на сайте narushitel.org. «Люди в силовых структурах, которые до этого думали, что могут безнаказанно творить беззаконие, начали побаиваться того, что их могут начать узнавать на улице, что родные узнают, как они зверствуют», — пишут создатели сайта, не раскрывающие своих имен.

Всего с начала кампании деанонимизации силовиков о готовности уйти со службы заявило более тысячи человек, рассказал основатель фонда BYSOL Лихачевский.

Система Максимова допускает странные ошибки

Одним из силовиков, идентифицированных в видео Максимова, стал крупный мужчина в красной рубашке поло, черных бронежилете, балаклаве и бейсболке — одетого так человека неоднократно видели на акциях подавления протестов в Минске. В частности, сохранилось несколько видео, по которым можно восстановить его действия вечером 6 сентября 2020 года. Силовики тогда начали преследовать расходящихся с воскресного марша людей: когда участников акции, попытавшихся спрятаться в кофейне OʼPetit, вытащили на улицу, мужчина в красном принялся избивать задержанных дубинкой прямо в окружении толпы, скандирующей: «Позор!»

В следующем видео он преследует людей, убегающих по проспекту Победителей. Один из них спотыкается и падает на газон — его тут же окружают неизвестные в штатском. От первого же удара мужчины в красной рубашке все тело протестующего пробирает судорога — однако силовик бьет его еще два раза и, оставив лежать на земле, уходит.

Алгоритм Максимова первоначально идентифицировал этого силовика как Виталия Куцепалова (Куцепалов не ответил на звонок «Медузы»). Позже в описании видео на YouTube появилось уточнение: «Update: Ребят, появилась информация, что Куцепалов В. В. хоть и похож, но, возможно, не он. Сейчас проводим проверку».

Как выяснила «Медуза», алгоритм действительно совершил ошибку. «Сотрудник в красной майке с балаклавой — [это] старший оперуполномоченный по особо важным делам 3-го управления ГУБОПиК МВД Высоцкий Валерий», — рассказал «Медузе» близкий к одному из силовых ведомств Беларуси собеседник (сам Высоцкий положил трубку, не дослушав вопрос «Медузы»).

Точно так же ошибся в идентификации Высоцкого и телеграм-канал «Каратели Беларуси Архив»: его авторы тоже посчитали, что человек «в красной майке», который «жестоко избивал людей на Немиге», — это Виталий Куцепалов. «Работал в ГУБОПиК заместителем начальника, но был уволен за вымогательства с предпринимателей. Работает начальником службы безопасности в ТЦ „Галерея“», — заявили авторы канала.

Это не единственное совпадение между демонстрацией Максимова и постами «Каратели Беларуси Архив»: семь из восьми силовиков, деанонимизированных в видео белорусского разработчика, ранее уже были разоблачены авторами этого телеграм-канала. Даты рождения, полные имена и фотографии Евгения Савича, Тимура Гришко, Николая Барановского, Владимира Романюка, Евгения Солодкого и Дмитрия Жмуро появились в телеграм-канале не позднее середины сентября, то есть как минимум за неделю до объявления о разработке системы распознавания.

В разговоре с «Медузой» Максимов признал, что некоторые примеры деанонимизации, приведенные в ролике, — это не результат работы системы распознавания, а простое заимствование из канала «Каратели Беларуси Архив». Алгоритм пока не готов, объясняет Максимов, и пока не известно, сколько времени потребуется на его доработку. «Мы не собирались так быстро показывать свой проект, но из-за внезапной инаугурации [Лукашенко] и из-за эскалации уровня насилия перед нами встал непростой выбор — и он был сделан в пользу того, чтобы в спешном порядке продемонстрировать то, что у нас есть. Нам захотелось поставить силовиков на учет — дать им понять, что все технологии, которые нужны, чтобы их идентифицировать, существуют и что со временем их полная идентификация неизбежна». 

«Настоящие алгоритмы так не работают»

Задача распознавания лица, скрытого под маской или даже балаклавой, решаема, но в самом видео Максимова не представлено никаких доказательств, что за демонстрацией скрывается хотя бы находящийся на стадии разработки алгоритм, утверждают двое собеседников «Медузы», работающих на российском рынке распознавания.

Для идентификации лиц используются нейросетевые алгоритмы — искусственный интеллект, обученный на огромном количестве фотографий. Недавнее исследование Национального института стандартов и технологий США (NIST) показало, что из-за медицинских масок и респираторов, которые стали необходимыми для выхода на улицу в период COVID-19, некоторые алгоритмы стали ошибаться на 50% чаще. Однако за период пандемии поставщики технологий распознавания научились с этим справляться: так, в феврале 2020 года об усовершенствовании своих программ рассказала китайская компания SenseTime, а в апреле стало известно, что закупленные московскими властями у российской компании NtechLab технологии способны «узнать» лица, закрытые платками, сложными головными уборами и даже мотоциклетными шлемами.

«В связи с COVID-19 все производители быстренько занялись распознаванием лиц, прикрытых маской, — рассказал „Медузе“ Иван Шапшал, заместитель генерального директора компании „Папилон“, занимающейся разработкой биометрических систем. — И теперь у всех передовых разработчиков уровень надежности уже порядка 90%: то есть даже за маской алгоритм найдет в миллионной базе лиц нужное лицо с вероятностью порядка 90%. Главное, чтобы была видна хотя бы небольшая часть носа и глаза, — а то, что у [белорусской] милиции сверху еще закрыта верхняя часть лба, это большого влияния не оказывает».

Поэтому задача, которая ставится в ролике Максимова, решаема, говорит Шапшал. Однако само демонстрационное видео, которое является единственным свидетельством существования алгоритма, больше напоминает «нарезку по мотивам художественных фильмов», чем реальную иллюстрацию работы программы. «Настоящие алгоритмы так не работают, как в этом ролике показано. Например, [в демонстрации Максимова] там справа мелькают фотографии, которые алгоритм якобы „перебирает“ [перед тем, как определиться с идентификацией]. Это совершенно нереалистично: сейчас алгоритм поиска по базе данных работает с такой огромной скоростью, что задача вывода каких-то промежуточных результатов на экран сожрет все мощности — и система перестанет искать и будет заниматься только иллюстрацией мелькания на экране», — объясняет Шапшал.

Белорусский телеграм-канал «Кибер Партизаны», занимающийся деанонимизацией и готовящий сейчас собственное opensource-решение по идентификации силовиков, назвал проект Максимова «фейком». «Мы не исключаем наличие системы face recognition, но в… условиях, указанных на видео, она работать не может», — заявили авторы канала.

Психологическое давление на силовиков

Есть в видео белорусского разработчика и просто невозможный для современных технологий пример распознавания — одного из силовиков алгоритм узнает несмотря на то, что видны лишь его ухо и часть щеки. «На второй минуте ролика показан пример идентификации инспектора милиции, у которого маской закрыто лицо до середины глаз, а сверху — козырек огромный, то есть маска смыкается с козырьком. Там вообще ничего не видно, но система раз — и идентифицировала. Это из области фантастики», — сказал Шапшал «Медузе».

Андрей Максимов признает, что сознательно включил в ролик пример технологически нереализуемого распознавания, чтобы «оказать психологическое давление на силовиков». «Главная цель этого видео — коммуникация с работниками силовых структур, у которых технические знания довольно ограничены, — сказал Максимов „Медузе“. — И если нам надо добавить какие-то вещи, которые продемонстрируют силовикам, что в нашей базе много их лиц и имен, то мы это добавим исключительно с этой целью».

«Похоже, что фейк: очень маленький процент лица видно у большинства, — прокомментировал видео Максимова собеседник „Медузы“ на российском рынке распознавания, попросивший не называть своего имени. — И плюс [для идентификации] нужна же полная база [фотографий] этих самых [минских] омоновцев — откуда она у него?»

Нехватка данных — это действительно самая большая проблема, стоящая перед проектом, рассказал Максимов «Медузе». Всего разработчикам удалось собрать из СМИ и соцсетей около тысячи фотографий, которые пользователи считают фотографиями силовиков (обычно нейросети обучают на значительно большем количестве изображений); на снимках людей в масках алгоритм также не тренировали, признает Максимов. «Пока нет большого датасета с людьми в масках и без масок — нам эти данные еще собирать и собирать. У МВД Беларуси, к сожалению, нет странички в фейсбуке, куда были бы выложены по три фотографии каждого сотрудника, [снятые] с разных сторон», — жалуется разработчик.

Обучение алгоритма на большом количестве специально отобранных изображений — это одна из основных задач, стоящих перед разработчиком, объясняет Шапшал: «Это очень важный и сложный вопрос — как натренировать алгоритм правильно. Нужно не только собрать пары фотографий человека „в маске“ и „без маски“ — на каждого человека, представленного в базе, по которой тренируется алгоритм, должны быть десятки самых разных изображений: такой ракурс, сякой, такое освещение, другое освещение, в такой маске, в сякой маске».

Пока система распознавания не готова, Максимов сконцентрируется на простой визуализации уже совершенных активистами деанонимизаций. «Мы начнем возвращать лица людей, которые совершают преступления, на фотографии с их преступлениями, — заявил Максимов в разговоре с „Медузой“. — Снабжать людей качественной визуальной информацией — это тоже важно. Чтобы не было разобщения двух визуальных рядов, а то у нас пока получается, что какие-то неизвестные в масках избивают людей и выдергивают женщинам волосы — а на других снимках тот же человек кружится в поле одуванчиков со своей собакой».