Студентка из Украины обнаружила в китайских соцсетях свои «копии», созданные с помощью искусственного интеллекта. Они рассказывают о российско-китайской дружбе и рекламируют товары из РФ
21-летняя студентка из Украины Ольга Лоек, которая учится в Университете Пенсильвании, обнаружила, что ее лицо было использовано в нескольких тысячах роликов в китайских социальных сетях. Изображения были созданы с помощью инструментов, создающих видео при помощи искусственного интеллекта, пишет BBC News. В роликах «Ольга» говорила на севернокитайском языке (мандаринском) и рассказывала про российско-китайскую дружбу.
Созданные искусственным интеллектом «двойники» Ольги начали появляться в 2023 году — вскоре после того, как девушка запустила свой ютьюб-канал. Примерно через месяц она начала получать сообщения от людей, которые утверждали, что видели ее в китайских соцсетях говорящей на мандаринском — языке, который Ольга на самом деле не знала. Студентка выяснила, что ее изображение, созданное ИИ, появляется в многочисленных роликах на китайских аналогах YouTube (платформа Bilibili) и Instagram (Xiaohongshu). «Их [аккаунтов] оказалось очень много. На некоторых в описании были российские флаги», — рассказала Ольга. В общей сложности она нашла 35 аккаунтов, где использовалось ее изображение.
Аккаунты, публиковавшие видео, давали девушке разные имена — София, Наташа, Эйприл, Стейси. Одним из самых популярных аккаунтов был «Зарубежная еда от Наташи» (Natasha imported food), у которого было более 300 тысяч подписчиков. «Россия — самая лучшая страна. Печально, что другие страны отворачиваются от России. Русские женщины хотят приехать в Китай», — говорит в роликах «Наташа» перед тем, как начать рекламировать российские конфеты.
«Я могла видеть свое лицо и слышать свой голос. Но все это было очень жутко, потому что я видела, как говорю то, чего никогда не говорила. <…> Я не хочу, чтобы кто-нибудь думал, что я когда-либо говорила такие ужасные вещи. Использовать украинскую девушку как лицо для рекламы России… Это сумасшествие», — говорит Ольга. Для нее эта ситуация стала еще более неприятной из-за того, что ее семья все еще живет в Украине, отмечает BBC News.
Somebody Cloned Me in China…
Olga Loiek
После того, как жених Ольги рассказал об этой ситуации в твиттере, на произошедшее отреагировала компания HeyGen — основанный в Китае стартап, разработавший инструмент, который позволяет создавать изображения с помощью искусственного интеллекта. Выяснилось, что с использованием лица Ольги было создано 4900 видеороликов. В компании заявили, что заблокировали дальнейшее использование изображения девушки. Представитель HeyGen заявил, что системы компании были взломаны с целью создания «несанкционированного контента». Он добавил, что компания немедленно обновила протоколы безопасности, чтобы предотвратить дальнейшие злоупотребления.
При этом Анжела Чжан из Университета Гонконга отмечает, что такие ситуации как с Ольгой «очень распространены» в Китае. По ее словам, в стране есть «огромный подпольный бизнес, который специализируется на подделках, незаконном использовании личных данных и дипфейках». Это происходит несмотря на то, что Китай стал одной из первых стран, которая пыталась регулировать использование искусственного интеллекта. Согласно данным китайских правоохранительных органов, в 2023 году за создание видеороликов с «чужими» лицами задержали 515 человек, часть дел доходила до судебного разбирательства.
BBC News допускает, что случай с Ольгой может быть иным, так как в роликах продвигалась идея дружбы между Китаем и Россией.
«Неясно, преследовали ли эти аккаунты какую-то общую цель, но продвижение идеи, которая соответствует пропаганде властей, определенно приносит им пользу. Даже если эти аккаунты явно не связаны с Коммунистической партией Китая, продвижение соответствующего сообщения может снизить вероятность того, что их посты будут удалены», — говорит исследователь из Университета Болоньи Эми Хайн.