В телеграме обнаружили сеть ботов, генерирующих порнографические дипфейки. За 100 рублей можно получить 100 фотографий знакомых

В телеграме существуют десятки ботов, которые по запросу пользователей создают порнографические дипфейки. К такому выводу пришли специалисты фирмы Sensity, занимающейся кибербезопасностью, пишет The Verge. 

Способ создания дипфейка максимально прост: пользователь отправляет фотографию человека боту, а в ответ получает его порнографическое изображение. При бесплатном использовании бота программа скрывает некоторые части изображения или рисует поверх него водяные знаки. Но, заплатив 100 рублей, пользователь может получить 100 дипфейков без водяных знаков в течение семи дней.

Специалисты обнаружили, что к июлю 2020 года в общедоступных каналах телеграма были опубликованы более 100 тысяч таких дипфейков, в том числе с участием несовершеннолетних. Около 70% изображений были загружены пользователями из России и соседних стран. В ходе опроса, проведенного в одном из каналов, большинство людей (63%) заявили, что используют сервис для создания порнографических изображений своих знакомых; 16% загружают туда фотографии знаменитостей, 7% — фото случайных людей из интернета. 

Для создания изображений боты используют технологию DeepNude, которая с помощью нейросетей может убирать одежду с фотографии, дорисовывая вместо нее части обнаженного тела. Она была представлена весной 2019 года. Через несколько месяцев, когда о DeepNude начали писать крупные СМИ, авторы закрыли проект, заявив, что «вероятность того, что люди станут злоупотреблять им, слишком высока». Как выяснили в Sensity, с тех пор, однако, исходный код программы появился в интернете в открытом доступе на торрент-трекерах. 

В Sensity сделали вывод, что подавляющее большинство пользователей подобных сервисов создают фотографии для себя. Но при этом специалисты считают, что некоторая часть изображений также используется для вымогательства и шантажа — хотя в рамках исследования не нашли этому прямых доказательств. 

Как отмечает The Verge, люди создавали фейковые порнографические изображения женщин без их согласия «еще до того, как появился фотошоп», но сейчас основную озабоченность вызывает именно доступность технологии. Само по себе наличие исходного кода программ вроде DeepNude в свободном доступе могло бы не быть широкомасштабной проблемой — чтобы заставить его работать, по крайней мере, нужно быть программистом и иметь мощное оборудование, заявил The Verge генеральный директор Sensity Джорджио Патрини. «Но теперь, когда этим занимается бот, встроенный в обычный мессенджер, — отметил он, — все это уже не имеет значения».