Фейсбук просит пользователей присылать интимные фото для защиты от «порномести». Снимки будут изучать модераторы Что же тут может пойти не так? 🤔

Социальная сеть Facebook запустила в Австралии программу борьбы с «порноместью» — публикацией интимных фотографий и видео бывших партнеров. Устроена она довольно странно: пользователь должен заранее отправить самому себе снимки, которые, как он полагает, могут быть опубликованы в соцсети. Позже выяснилась еще более странная деталь: снимки будут просматривать модераторы фейсбука.

Для борьбы с «порноместью» фейсбук объединился с комиссаром по онлайн-безопасности Австралии Джули Инман-Грант. The Guardian описывал пилотную программу так: пользователь, который боится утечки интимных фото, должен заполнить специальную форму на сайте комиссара, а затем переслать себе в личных сообщениях в фейсбуке те снимки, распространение которых он хочет пресечь. Одновременно комиссар уведомляет соцсеть о заявке от пользователя.

«Когда фейсбук получит уведомление, аналитик по операциям сообщества возьмет фотографию и захэширует ее, чтобы в будущем ее нельзя было опубликовать [на сайте]», — говорилось в заметке The Guardian.

На следующий день после публикации в британской газете об одной немаловажной детали сотрудничества Facebook и Австралии рассказало издание Daily Beast. Оказывается, фото, которые загрузит пользователь, будут изучать модераторы фейсбука. По словам представителя фейсбука, изображения будут доступны «небольшой группе» сотрудников компании.

Они увидят только отретушированную, замазанную версию изображения, однако один сотрудник фейсбука будет изучать оригинальные снимки. Это нужно, чтобы убедиться, что на фото, распространение которых хочет запретить пользователь, действительно изображено обнаженное тело.

После того как модераторы убедятся в этом, они создадут их цифровые отпечатки. Руководитель службы безопасности Facebook Алекс Стэмос подчеркнул, что называть этот процесс хэшированием неправильно: алгоритмы, которые использует компания, способны находить копии изображений даже после несложных трансформаций, например, после изменения размера (с хэшами такое не сделать).

Пользователи соцсетей отнеслись к предложенному фейсбуком механизму борьбы с «порноместью» с подозрением: они полагают, что человеческий фактор рано или поздно подведет компанию, а также удивлялись, что соцсеть в таком деликатном деле использует живых людей, а не алгоритмы.

Daily Beast отмечает, что модераторы в соцсети и сейчас занимаются изучением порноматериалов — специальные сотрудники проверяют жалобы на «порноместь». Полагаться только на алгоритмы здесь опасно, так как их можно обмануть и использовать для цензуры: достаточно под видом интимного фото загрузить в соцсеть картинку, распространение которой хочется пресечь.

Daily Beast отмечает, что даже PhotoDNA — системе, которая позволяет автоматически находить и удалять детское порно (и которую используют многие технологические компании), — необходимо участие человека. Все материалы, включенные в базу системы, были когда-то отсмотрены людьми; отличие от предложения фейсбука только в том, что в PhotoDNA фотографии обычно попадают с компьютеров преступников, а в соцсеть предлагается загружать их самостоятельно.

Facebook утверждает, что к проекту по борьбе с «порноместью» могут присоединиться США, Великобритания и Канада.