истории

Deepfakes: порно, в которое нейросеть добавляет лица знаменитостей. Его запрещают все крупные сервисы, даже PornHub

Meduza
16:04, 7 февраля 2018

FakeApp

Обновлено: вечером 7 февраля сообщество /r/deepfakes/ на Reddit было заблокировано за нарушение правил сайта. В сообщении о блокировке говорится, что оно нарушало запрет на публикацию порно без разрешения действующих в нем лиц.

В конце 2017 года пользователь с ником deepfakes загрузил на Reddit порногифки с участием известных актрис и певиц: Галь Гадот, Скарлетт Йоханссон, Тейлор Свифт, Мейси Уильямс. При этом никакого отношения к «порно» они не имели: deepfakes добавил их лица к телам порноактрис с помощью нейросетей.

Программа, написанная deepfakes, работала так: она анализировала лица на порнороликах и пыталась «исправить» их — то есть сделать как можно более похожими на образец. За образец брались лица знаменитостей. Фото и видео с актрисами deepfakes добывал в Google, на фотостоках и на YouTube. Результат был неидеальным: зачастую порноактрисы лишь отдаленно напоминали знаменитостей; на лицах появлялись швы и неровности.

Как работают алгоритмы deepfakes — на примере Николаса Кейджа, которого добавили в разные фильмы
Nick Cage DeepFakes

Позже разработчик выложил программу, которая позволяет любому желающему — если у него есть достаточно мощный компьютер и нужные данные — создать фейковое порно. Это увлечение понравилось пользователям Reddit: на раздел, который тоже называется deepfakes, подписалось больше 90 тысяч человек. Само слово deepfakes стало обозначать соответствующий жанр.

Но чем популярнее становились ролики с дорисованными лицами знаменитостей, тем сложнее пользователям Reddit было делиться ими. Deepfakes и его последователи выкладывали свои работы на хостинг Gfycat, но в конце января 2018 года сервис начал удалять некоторые гифки. В компании заявили, что считают подобный контент неприятным — и потому избавляются от него. При этом некоторые из первых гифок от программиста deepfakes все еще доступны.

Войну порно, созданному с помощью нейросетей, также объявили мессенджер Discord (обычно им пользуются геймеры для текстового и голосового чата) и Twitter. Сервис микроблогов не мешает публикации традиционного порно, но в случае с deepfakes блокирует аккаунты как тех, кто выкладывает подобные ролики, так и тех, кто помогает их распространению.

Наконец, 6 февраля deepfakes решил запретить крупнейший порносайт PornHub. В компании объяснили, что не допускают распространения материалов, произведенных без согласия их участников, — то есть приравняли фейковое порно к «порномести». Издание Motherboard отмечает, что, несмотря на это заявление, на PornHub по-прежнему можно найти много роликов с пририсованными лицами знаменитостей — достаточно ввести в поиске запрос «deepfakes». Поклонники жанра также указывают на то, что правила PornHub почему-то не мешают порносайту хранить настоящие интимные видео, украденные с телефонов и компьютеров знаменитостей.

Сообщество deepfakes на Reddit продолжает существовать. Для тех, кто думает создать фейковое порно, существует ряд правил: нельзя накладывать на героев порно лица несовершеннолетних или малоизвестных людей.

Поклонникам жанра также не советуют покупать или продавать ролики, созданные с помощью нейросети. Как минимум один такой прецедент уже был — и это очень опасно. Как объясняет Motherboard, коммерческое использование deepfakes дает возможность подать в суд на автора ролика за незаконное использование имени и образа человека.

Султан Сулейманов