Британский журналист устроился на работу модератором фейсбука. И выяснил, что компания не всегда удаляет даже откровенно расистский контент

Модераторы фейсбука из ирландской компании CPL Resources, работающие на аутсорсе, часто не удаляют контент, который в соответствии с правилами, установленными самой соцсетью, должен быть запрещен. Об этом говорится в расследовании британского телеканала Channel 4.

Отделение в Дублине — крупнейший центр модерации записей в британском сегменте фейсбука. Корреспондент телеканала устроился на работу в CPL Resources, которая сотрудничает с Facebook с 2010 года, и провел там семь недель, снимая происходящее в офисе на скрытую камеру.

Сцены насилия

Channel 4 рассказал, что в некоторых случаях модераторы не удаляют материалы с изображением сцен насилия (в том числе видео нападения на детей) — например, если в подписи к ним насилие осуждается. Модератор может лишь отметить контент как «способный вызвать тревогу» — и тем самым ограничить возможность просмотра для несовершеннолетних.

Пример такого ролика — видео драки двух девочек, которое перепостили в фейсбуке более тысячи раз. Мать одной из них заявила журналистам, что видео оказало «унижающее и опустошающее» воздействие на ее дочь — и что она не понимает, почему Facebook сохранил к нему доступ. Вице-президент Facebook Ричард Аллан объяснил телеканалу, что иногда пользователи хотят с помощью такого контента привлечь внимание к какой-либо проблеме. В то же время в компании заявили, что родители или ребенок могут попросить об удалении видео.

Во время обучения корреспонденту Channel 4 также показали видео, на котором мужчина бьет ребенка, и велели не удалять такие ролики, если только их не сопровождают одобрительные комментарии. Как оказалось, активисты просили Facebook удалить ролик с 2012 года, но соцсеть отказалась это сделать.

Расистский контент

Несмотря на то, что расистские высказывания запрещены в фейсбуке, модераторам в CPL Resources позволяется не удалять их в ряде случаев — к примеру, когда они направлены против мигрантов. Во время обучения модераторов примером разрешенного контента стала нарисованная картинка с изображением девочки, которую топят в ванне, и с подписью: «Когда первая любовь твоей дочки — негритенок». Модератор пояснил, что в этом случае до «настоящего насилия» далеко, так как «нет нападения на настоящего негритенка». Facebook в комментарии Channel 4 заявил, что на самом деле изображение нарушает правила соцсети.

Особые условия для популярных страниц

Корреспондент Channel 4 выяснил, что Facebook может «прощать» нарушения популярным страницам и группам. Сторонние модераторы должны удалять любую страницу, на которой обнаружено пять или более нарушений, но когда речь идет про популярные ресурсы, решение принимает специальное подразделение, где работают сотрудники Facebook.

Пример такой страницы — группа ультраправой организации Britain First, которую некоторое время не удаляли, несмотря на повторявшиеся нарушения, но в конце концов удалили после ареста лидеров организации. В Facebook такую логику объяснили тем, что иногда речь может идти о политических спорах, а не о запрещенном контенте.

Затягивание сроков модерации

Facebook заявляет, что просматривает весь контент, отмеченный пользователями как подозрительный, в течение суток. Расследование Channel 4 показало, что часто это не так: в действительности у модераторов не хватает времени на проверку всех заявлений. В какой-то момент в модераторском центре скопилось 15 тысяч жалоб — некоторые из них поступили пять дней назад. Channel 4 отмечает, что среди отмеченных материалов могли быть посты с угрозой самоубийства или членовредительства.

Вице-президент Facebook Ричард Аллан заявил, что компания уже приступила к переобучению людей в дублинском центре, которые, в свою очередь, преподают модераторам, и принес извинения за допущенные ошибки.