Большое количество видео женщин, которые выглядят как иностранцы, но говорят по-китайски и пропагандируют любовь к Китаю, сделанные с помощью искусственного интеллекта, начали появляться на платформах китайских социальных сетей накануне местного Нового года в начале этого месяца, пишет «Голос Америки».
Аватары в видео создаются из украденных и измененных онлайн-картинок. Женщины в реальной жизни узнали себя на видео.
Ольга Лоек — одна из таких женщин. 20-летняя украинка, изучающая когнитивные науки в Университете Пенсильвании. Несколько месяцев назад Лоек открыла канал на YouTube, где она рассказывает о ментальном здоровье и делится своими философскими взглядами на жизнь. Однако вскоре после этого она начала получать сообщения от подписчиков, которые рассказывали, что видели ее в китайских социальных сетях.
Там она не Ольга Лоек, а русская, говорящая по-китайски, любит Китай и хочет выйти замуж за китайца. Ее зовут Наташа, Анна или Грейс, в зависимости от платформы социальных сетей в Китае.
«Я начала переводить видео с помощью Google Translate и поняла, что большинство этих учетных записей говорят о таких вещах, как Китай, Россия, о том, насколько хороши отношения между Китаем и Россией, — сказала она Голосу Америки. — Это очень обидно».
В некоторых роликах аватары рассказывают о том, как они ценят тесные связи России и Китая. В других роликах восхваляют китайскую историю и культуру или рассказывают о том, как сильно россиянки хотят выйти замуж за китайца.
«Если ты женишься на русских женщинах, мы будем стирать белье, готовить, мыть посуду каждый день, — говорит аватарка. — Мы также дадим вам иностранных детей, сколько захотите».
На видеосайтах Douyin и Bilibili содержится несколько десятков видео, на которых аватар Лоек говорит по-китайски. Большинство этих аккаунтов приглашают зрителей посетить онлайн-магазины, чтобы купить то, что они говорят, настоящие российские товары.
Douyin, китайская версия тиктока, отметила некоторые из этих видео как потенциально сгенерированные искусственным интеллектом. Но из комментариев видно, что многие верят, что смотрят на настоящую женщину. Один пользователь сети написал: «Русская красавица, китайцы приветствуют вас».
Лоек сказала, что никогда не скажет подобных вещей, очевидно, учитывая, что она из Украины, которая находится в состоянии войны с Россией с 2022 года. Она сказала: «Это, вероятно, используется для того, чтобы люди, возможно, люди в Китае, чувствовали, что иностранцы считают свою страну лучше».
На Bilibili, крупнейшем видеосайте Китая, некоторые видео с искусственным интеллектом, в которых используется лицо Лоек, помечены логотипом HeyGen, что указывает на то, что видео было создано на веб-сайте компании.
В одном видео с bilibili демонстратор даже показывает, как сделать короткое видео на HeyGen с клипом, на котором говорит Лоек.
HeyGen — это компания искусственного интеллекта со штаб-квартирой в Лос-Анджелесе, работающая в Китае с 2020 года. Она специализируется на реалистичных цифровых аватарах, генерации голоса и переводе видео.
Технология, разработанная HeyGen, использовалась в видео с искусственным интеллектом, где Дональд Трамп и Тейлор Свифт говорят на идеальном китайском языке, который стал вирусным в китайских социальных сетях в октябре 2023 года.
По данным Forbes, сейчас компания оценивается в 75 миллионов долларов.
В политике модерации HeyGen говорится, что пользователи не могут создавать аватары, которые «изображают реальных людей, включая знаменитостей или общественных деятелей, без явного согласия».
Видео компании по созданию аватаров показывает, что пользователи должны отправлять видео людям, которые соглашаются использовать их картинку.
Лоек сказала, что после того, как она и ее подписчики на YouTube разослали жалобы китайским компаниям социальных сетей, около дюжины учетных записей, имитирующих ее, были удалены.
Закон запрещает создавать дипфейки без согласия людей, чье изображение или другая информация используются. Лоек опубликовала свою историю на YouTube, и ее распространили в китайских социальных сетях. Пользователи сети на разных платформах сочувствовали ей и призвали ужесточить правила в отношении ИИ.
Что касается Лоек, то она не планирует покидать YouTube или прекращать публикации. «Нам нужна определенная нормативная база, чтобы понимать и предотвращать такие вещи», — сказала она.
Читайте также:
Скоро программисты станут не нужны, их заменит искусственный интеллект — глава NVIDIA
Искусственный интеллект научился имитировать почерк человека
