Нейросети-расисты Как FaceApp, MSQRD и другие приложения становятся виновниками ксенофобских скандалов

В январе 2017 года российские программисты выпустили приложение для редактирования селфи FaceApp. Оно быстро стало популярным не только в России, но и по всему миру. Тут-то и начались проблемы: нейросеть, на которой работает FaceApp, стала «обеливать» чернокожих пользователей, если они включали фильтр «привлекательность». Это далеко не первый случай, когда некорректно придуманные нейросети становятся расистами.

FaceApp

В FaceApp несколько фильтров — можно сменить возраст и пол, а также включить фильтр «Hot», который делает человека на фотографии якобы более привлекательным. Последний режим и стал причиной скандала. Нейросеть FaceApp считает, что привлекательные — это прежде всего белые люди, поэтому фильтр «обеливает» чернокожих, арабов и азиатов. Он делает кожу светлой, увеличивает глаза и изменяет форму носа, стараясь приблизить лицо пользователя к европейскому типу.

«Идея FaceApp в том, чтобы сделать меня „горячим“, превратив в белого. Это очень по-расистски», — возмутился житель Флориды.

25 апреля исполнительный директор FaceApp Ярослав Гончаров извинился перед пользователями за «расистский» фильтр и назвал его «безусловно серьезной проблемой». По его словам, в основе нейросети произошел сбой, повлиявший на ее обучение. Гончаров уточнил, что в компании уже работают над решением проблемы.

Пока FaceApp просто сменил название фильтра — с «Hot» (привлекательный) на «Spark» (сияющий).

Snapchat

В 2016 году сервис обмена короткими фотоисториями и роликами Snapchat выпустил фильтр «Боб Марли» ко Дню марихуаны. Он делал лицо пользователя похожим на лицо музыканта, изменял цвет кожи, добавлял дреды и растаманский берет.

Приложение обвинили и в расизме, и в неуважении к Бобу Марли. «Он сделал много важного, помимо курения травки», — заявил сотрудник CNN Брайан Рис.

По словам представителей Snapchat, с помощью фильтра пользователи обрели новый способ рассказать миру о своей любви к творчеству Марли. В Snapchat уточнили, что фильтр создавался вместе с Фондом Боба Марли. Тем не менее, его все же убрали из приложения.

В августе 2016 года Snapchat второй раз обвинили в расизме — приложение выпустило аниме-фильтр, который многие восприняли как карикатуру на азиата. На следующий день Snapchat убрали и его.

MSQRD

В белорусском приложении «масок» для селфи MSQRD фильтр с Бобом Марли появился еще раньше. Но на него обратили внимание только после скандала со Snapchat. Главная претензия к обоим сервисам — фильтры похожи на «блэкфейс» — грим белых комиков, высмеивающих чернокожих.

Ранее в MSQRD появлялись «маски» Барака Обамы и Снуп Догга. Сейчас все три фильтра убрали из приложения.

Meitu

В январе 2017 года социальные сети захватил китайский Meitu, делающий из пользователя героя аниме. Приложение «обеливает» человека на фотографии и подгоняет его под азиатские стандарты красоты. Многие пользователи соцсетей сочли, что пользоваться Meitu стоит только азиатам.

У приложения есть и другая проблема — Meitu собирает слишком много данных о пользователях, в том числе список контактов и сообщения.