Как ИИ превратил украинского ютубера в русского

«Я не хочу, чтобы кто-то думал, что я когда-либо в жизни говорил такие ужасные вещи. Использование украинки для рекламы России. Это безумие».

Ольга Люк видела, как ее лицо появлялось в различных видеороликах в китайских социальных сетях — благодаря простым в использовании инструментам искусственного интеллекта, доступным в Интернете.

«Я мог видеть свое лицо и слышать свой голос. Но это было по-настоящему жутко, потому что я сказал то, чего никогда бы не сказал», — рассказал BBC 21-летний парень, который учится в Пенсильванском университете.

В ее рассказах о происхождении были десятки разных имен, таких как София, Наташа, Эйприл и Стейси. Эти «девочки» говорили на китайском языке, который Ольга никогда не учила. Судя по всему, они были из России и говорили о китайско-российской дружбе или продвигали российскую продукцию.

«Я видел 90% видеороликов, рассказывающих о Китае и России, китайско-российской дружбе, о том, что мы должны быть сильными союзниками, а также рекламу продуктов питания».

Один из крупнейших аккаунтов — «Наташа Импортная Еда» с более чем 300 000 пользователей. «Наташа» говорила что-то вроде «Россия — лучшая страна». Печально, что другие страны хотят уехать из России и приехать в Китай с русскими девушками, прежде чем они начнут продвигать такие продукты, как русские конфеты.

Это лично возмутило Ольгу, семья которой до сих пор находится в Украине.

Но в более широком масштабе его дело привлекло внимание к опасностям технологии, которая развивается так быстро, что ее регулирование и защита людей стали настоящей проблемой.

Выступления Ольги с искусственным интеллектом, говорящие на китайском языке, начали появляться в 2023 году — вскоре после того, как она запустила канал на YouTube, который не обновлялся регулярно.

Примерно через месяц она начала получать сообщения от людей, которые утверждали, что видели, как она говорила на китайском языке в китайских социальных сетях.

Заинтригованный, он начал ее искать и нашел ее появления на ИИ на Xiaohongshu — сайте, похожем на Instagram, — и Blibli, видеосайте, похожем на YouTube.

«Их было очень много [accounts]. У некоторых в биографии были такие вещи, как российские флаги», — сказала Ольга, которая на данный момент нашла около 35 аккаунтов, использующих ее изображение.

После того, как ее жених написал в Твиттере об этих аккаунтах, компания Хейген, которая утверждает, что разработала инструмент, используемый для создания таких вещей, как искусственный интеллект, отреагировала.

С его лицом было создано более 4900 видеороликов. Они сказали, что его изображение больше не должно использоваться.

Представитель компании сообщил BBC, что их компьютер был взломан с целью создания того, что они назвали «несанкционированным контентом», и что они немедленно обновили свои протоколы безопасности и проверки, чтобы предотвратить дальнейшее злоупотребление своим сайтом.

Но Анджела Чжан из Университета Гонконга говорит, что то, что случилось с Ольгой, «очень распространено в Китае».

«В стране существует обширная теневая экономика, которая специализируется на подделках, неправомерном использовании личных данных и производстве дипфейков», — сказал он.

Хотя Китай является одной из первых стран, пытающихся регулировать ИИ, его можно использовать для любых целей. Он внес изменения в свой Гражданский кодекс, чтобы защитить права солидарности от цифровой фабрикации.

Статистические данные, опубликованные Департаментом общественной безопасности в 2023 году, показывают, что власти арестовали 515 человек за операции по «замене лиц» с помощью ИИ. Китайские суды также рассматривали дела в этой области.

Но как же столько видео Ольги оказалось в Интернете?

Одной из причин может быть то, что они продвигали идею дружеских отношений между Китаем и Россией.

За последние годы Пекин и Москва значительно сблизились. Президент Китая Си Цзиньпин и президент России Путин заявили, что дружбе между двумя странами «нет предела». Они собираются встретиться в Китае на этой неделе.

«Неясно, скоординированы ли эти учетные записи для достижения общей цели, но продвижение идеи в соответствии с правительственной кампанией, безусловно, принесет им пользу», — сказала Эмми Хейн, исследователь права и технологий из Университета Болоньи и Левенского университета.

«Даже если эти аккаунты не связаны открыто с CCP [Chinese Communist Party]Продвижение согласованного сообщения может снизить вероятность удаления сообщений.

Но эксперты предупреждают, что это означает, что обычные люди, такие как Ольга, уязвимы и рискуют нарушить китайское законодательство.

Кайла Бломквист, технологический и геополитический аналитик из Оксфордского университета, предупреждает, что «отдельные люди рискуют оказаться в рамке искусственно созданного политически чувствительного контента», и могут быть подвергнуты «быстрым приговорам, вынесенным без надлежащей правовой процедуры».

Он добавляет, что внимание Пекина к искусственному интеллекту и политике конфиденциальности в Интернете направлено на защиту прав потребителей от хищнических частных лиц, но настаивает на том, что «права граждан по отношению к правительству очень слабы».

«Основная цель китайского регулирования искусственного интеллекта — сбалансировать поддержание социальной стабильности с продвижением инноваций и экономического роста», — объясняет г-жа Хайн.

«Хотя действующие правила кажутся строгими, есть свидетельства избирательного применения, в частности, разрабатываемое правило лицензирования ИИ, которое может быть направлено на создание более благоприятной для инноваций среды, с неявным пониманием того, что закон обеспечивает основу для опрокидывания в случае необходимости», — сказала она.

Но последствия дела Ольги выходят далеко за пределы Китая, демонстрируя сложность попыток регулирования отрасли, которая развивается с головокружительной скоростью, а регулирующие органы постоянно догоняют ее. Но это не значит, что они не пытаются.

В марте Европейский парламент одобрил Закон об искусственном интеллекте — первую в мире всеобъемлющую структуру по ограничению рисков, связанных с технологиями. В октябре прошлого года президент США Джо Байден объявил о распоряжении, требующем от разработчиков ИИ делиться данными с правительством.

Поскольку правила меняются медленно на национальном и международном уровне по сравнению с быстро развивающейся гонкой развития ИИ, г-жа Бломквист говорит, что нам нужно «четкое понимание и твердый консенсус относительно наиболее опасных угроз и способов их смягчения».

«Однако различия во мнениях внутри стран и между ними препятствуют конкретным действиям. США и Китай являются ключевыми игроками, но достижение консенсуса и координация необходимых коллективных действий будет сложной задачей», — добавил он.

Между тем, на личном уровне малыши не могут ничего не публиковать в Интернете.

«Единственное, что нужно сделать, — это не давать им никаких материалов для работы: не загружать свои фотографии, видео или аудио в общедоступные социальные сети», — говорит г-жа Хайн. «Однако у злоумышленников всегда будут мотивы последовать их примеру, поэтому я ожидаю, что мы увидим устойчивый рост на фоне нормативных махинаций, даже несмотря на то, что правительства принимают жесткие меры».

Ольга «на 100% уверена», что она не станет последней жертвой ИИ. Но она полна решимости не позволить этому оттолкнуть ее от Интернета.

Он делится своим опытом на своем канале YouTube и говорит, что некоторые китайские онлайн-пользователи помогают ему, комментируя видео с его изображениями и указывая на то, что они фейковые.

Многие из этих видео сейчас удалены, добавляет он.

«Я хотела поделиться своей историей и убедиться, что люди понимают: не все, что вы видите в Интернете, реально», — говорит она. «Мне нравится делиться своими идеями со всем миром, и ни один из этих мошенников не может помешать мне сделать это».