Перейти к материалам
истории

Кого мы защищаем — чернокожих детей или белых мужчин? Секретные правила для модераторов контента в Facebook: ProPublica

Источник: ProPublica
Justin Sullivan / Getty Images / AFP / Scanpix / LETA

Каждый месяц модераторы Facebook удаляют 288 тысяч постов, «разжигающих ненависть». В отделе компании, который занимается отслеживанием противоправного контента, работают четыре с половиной тысячи человек, а в ближайший год их станет на три тысячи больше. При этом правила, по которым удаляются те или иные посты, непубличны. Издание ProPublica, получившее доступ к инструкциям для модераторов, рассказало, почему в Facebook можно разжигать ненависть против детей, но нельзя — против геев. «Медуза» пересказывает основные тезисы этого материала.

В правилах для модераторов Facebook описаны группы людей, в отношении которых необходимо пресекать «разжигание ненависти». В слайде под названием «Кого мы защищаем» перечисляется: пол, раса, религиозная принадлежность, этнос, национальное происхождение, сексуальная ориентация, гендерная идентичность, инвалидность и тяжелая болезнь.

Другой слайд называется «Кого мы не защищаем». В нем указаны: профессия, политическая идеология, внешний вид, возраст, религия, страны и другие категории. Модераторам нужно всякий раз — а они отсматривают тысячи постов каждый день — решать, к какой из этих двух групп относится конкретное оскорбление.

Сделать это не так просто, как может показаться. Facebook предлагает своим модераторам тест «Какой из следующих подклассов мы защищаем?» с вариантами ответа: «Женщины-водители», «Чернокожие дети» и «Белые мужчины» (к последнему пункту приложена фотография группы Backstreet Boys). Правильный ответ — «белые мужчины».

Дело в том, что к подклассам — то есть к частям тех групп людей, что перечислены в базовых правилах, — применяются специальные формулы:

Защищенная категория + защищенная категория = защищенная категория

Защищенная категория + незащищенная категория = незащищенная категория

«Белые мужчины» описывают сразу два защищенных параметра — расу и пол. «Чернокожие дети» и «женщины-водители» смешивают защищенные категории (раса и пол соответственно) с незащищенными (возраст и профессия), потому модераторы не должны удалять посты, «разжигающие ненависть» в отношении них. Другой пример от Facebook: «ирландские женщины» защищены, а «ирландские подростки» — уже нет.

В 2008 году список материалов, которые должны быть удалены из соцсети, помещался на одной странице — там упоминались, в частности, фотографии обнаженных тел и Адольфа Гитлера. Внизу страницы была приписка: «Удаляйте все, что вызывает у вас чувство дискомфорта».

Дейв Уиллнер, который стал модератором Facebook в 2008-м, рассказал, что отсматривал 15 тысяч фотографий в день; он пришел к выводу, что существующие инструкции прописаны недостаточно тщательно. Через пять лет он ушел из компании, оставив после себя свод правил на 15 тысяч слов (для сравнения: в этом тексте спецкора «Медузы» Даниила Туровского — около восьми тысяч слов). Документ используют в Facebook по сей день.

Даже рассмотрение кейсов с упоминанием Гитлера и нацизма усложнилось. Например, Facebook не блокирует тех, кто отрицает холокост, и позволяет использовать свастику в качестве политического высказывания (ProPublica приводит слайд, на котором изображен основатель соцсети Марк Цукерберг — на рукаве пририсована свастика, на лице — гитлеровские усики). При этом пост с лягушонком Пепе, ставшим символом американских альт-правых, может быть удален. Facebook запрещает пользователям призывать отправить кого-либо в концентрационные лагеря; в этом правиле есть исключение: фраза «Нацисты должны быть отправлены в концлагерь» допустима.

В правилах упоминаются также «квазизащищенные» группы людей — мигранты. Эта категория появилась из-за наплыва беженцев из Сирии в Европу. Пользователи не могут призывать к насилию против квазизащищенных групп и допускать обобщения, обесчеловечивающие их, — но могут призывать к их выдворению. В одном из документов говорится, что мигрантов можно называть «грязными», но нельзя «грязью»: «Они не должны сравниваться с грязью или болезнью, когда сравнение выражено в форме существительного».

Источники ProPublica и The Wall Street Journal рассказывали, что Марк Цукерберг не позволял удалить из Facebook посты президента США Дональда Трампа, в которых тот призывал запретить въезд в страну мусульманам. Модераторы считали, что записи нарушают правила ресурса, однако Цукерберг решил, что они остаются важной частью политического дискурса.

Вы читали «Медузу». Вы слушали «Медузу». Вы смотрели «Медузу» Помогите нам спасти «Медузу»

Реклама