Оказывается, «ВКонтакте» умеет автоматически удалять экстремистские картинки. Но от уголовных дел по статье 282 это вас не спасет

Внимание! Не пытайтесь проверить систему модерации «ВКонтакте», публикуя экстремистские материалы на своей странице. За это предусмотрена административная и уголовная ответственность.

Социальная сеть «ВКонтакте» умеет автоматически удалять изображения, внесенные в федеральный список экстремистских материалов (его составляет Минюст на основе решений российских судов). Картинки пропадают из постов на страницах пользователей и в группах через несколько секунд после публикации. Сами посты при этом не исчезают: если в них был какой-то текст, он сохраняется; если нет, остается пустая публикация.

О пропадающих картинках «Медузе» рассказал читатель Владимир (фамилию он не назвал) — в конце декабря 2018 года он и его друг обнаружили, что не могут опубликовать на своих страницах картинку с надписью «Граждане России будьте бдительны! Падает рейтинг — Ждите террактов!» (орфография сохранена).

Владимир подумал, что это баг, и рассказал об этом «Медузе». Однако в пресс-службе «ВКонтакте» сообщили, что изображение, о котором идет речь, внесено в список экстремистских материалов. Действительно, в декабре 2017 года в него добавили пункт 4316: Октябрьский районный суд Санкт-Петербурга запретил «текстовую часть графического материала» — то есть надпись про теракты на картинке с глазами человека, похожего на Владимира Путина.

«Медуза» убедилась, что эта картинка пропадает из публикаций через несколько секунд. Несколько других изображений из списка Минюста также удаляют со страниц. При этом пользователю не присылают никаких уведомлений, а его аккаунт не замораживают, как часто происходит в случае нарушения правил «ВКонтакте» (например, при рассылке спама).

Вместе с тем, экстремистские картинки не исчезают из личной переписки. Не удаляются они и из публичных постов, если оригинал хоть как-то изменить — например, обрезать или уменьшить.

В пресс-службе «ВКонтакте» рассказали «Медузе», что «контент мониторится в режиме реального времени специальной автоматизированной средой модерации». Как именно работает система поиска экстремистских материалов, в компании уточнять не стали, лишь сказав, что используют для этого «разные внутренние разработки».

В соцсети утверждают, что модерация касается всех типов контента. Однако «Медуза» в рамках эксперимента не заметила удаления видео, аудио или текстов, внесенных в список экстремистских материалов. Вероятно, это связано с тем, что в базу «ВКонтакте» внесены конкретные файлы — и любые модификации (например, перекодировка при загрузке на видео- или аудиохостинг), как и в случае с картинками, мешают установить сходство. Ссылки на сайты, признанные экстремистскими, из «ВКонтакте» также не удаляют.

В ответ на просьбу пояснить, почему некоторые «экстремистские» материалы не удалили автоматически, в пресс-службе «ВКонтакте» сообщили: «Мы стремимся добавлять весь контент из этого списка, но иногда это занимает дополнительное время».

В компании утверждают, что система работает с 2012 года, однако «Медузе» не удалось найти ее упоминания ни в СМИ, ни на страницах, рассказывавших о нововведениях в соцсети — в паблике LIVE и официальном блоге «ВКонтакте» (который тогда вел Павел Дуров). Бывший сотрудник соцсети, работавший в компании в 2012 году, сообщил «Медузе», что он тоже не слышал о запуске подобной системы.

Руководитель международной правозащитной группы «Агора» Павел Чиков пояснил «Медузе», что эта система может защитить пользователей только от наказания по статье 20.29 КоАП — в ней как раз говорится о распространении материалов из списка Минюста. В качестве меры профилактики уголовных дел по статье 282 УК РФ она бесполезна: такие дела заводят за контент, которого нет в списке экстремистских материалов.

При этом даже как средство профилактики от наказания по статье 20.29 КоАП система модерации работает неидеально: пользователей «ВКонтакте» как штрафовали за песни и видео из списка Минюста в 2013 году, так и продолжают штрафовать в 2019-м.

Этот материал появился благодаря сообщению, которое нам прислали через SecureDrop. Если вы хотите анонимно поделиться важной информацией с «Медузой», воспользуйтесь этой инструкцией.