20 мая, 2024

Orsk.today

Будьте в курсе последних событий в России благодаря новостям Орска, эксклюзивным видеоматериалам, фотографиям и обновленным картам.

Как ИИ превратил украинского ютубера в русского

Как ИИ превратил украинского ютубера в русского

подпись к изображению, Ольга Лоик видела, как ее лицо появлялось в различных видеороликах в китайских социальных сетях.

  • автор, Фань Ван
  • запас, Новости BBC

«Я не хочу, чтобы кто-то думал, что я когда-либо в жизни говорил такие ужасные вещи. Использование украинки для рекламы России. Это безумие».

Ольга Люк видела, как ее лицо появлялось в различных видеороликах в китайских социальных сетях — благодаря простым в использовании инструментам искусственного интеллекта, доступным в Интернете.

«Я мог видеть свое лицо и слышать свой голос. Но это было по-настоящему жутко, потому что я сказал то, чего никогда бы не сказал», — рассказал BBC 21-летний парень, который учится в Пенсильванском университете.

В ее рассказах о происхождении были десятки разных имен, таких как София, Наташа, Эйприл и Стейси. Эти «девочки» говорили на китайском языке, который Ольга никогда не учила. Судя по всему, они были из России и говорили о китайско-российской дружбе или продвигали российскую продукцию.

«Я видел 90% видеороликов, рассказывающих о Китае и России, китайско-российской дружбе, о том, что мы должны быть сильными союзниками, а также рекламу продуктов питания».

Один из крупнейших аккаунтов — «Наташа Импортная Еда» с более чем 300 000 пользователей. «Наташа» говорила что-то вроде «Россия — лучшая страна». Печально, что другие страны хотят уехать из России и приехать в Китай с русскими девушками, прежде чем они начнут продвигать такие продукты, как русские конфеты.

Это лично возмутило Ольгу, семья которой до сих пор находится в Украине.

Но в более широком масштабе его дело привлекло внимание к опасностям технологии, которая развивается так быстро, что ее регулирование и защита людей стали настоящей проблемой.

Сяохуншу с YouTube

Выступления Ольги с искусственным интеллектом, говорящие на китайском языке, начали появляться в 2023 году — вскоре после того, как она запустила канал на YouTube, который не обновлялся регулярно.

READ  Россия увеличивает численность Вооруженных Сил на 170 тысяч человек | Новости российско-украинской войны

Примерно через месяц она начала получать сообщения от людей, которые утверждали, что видели, как она говорила на китайском языке в китайских социальных сетях.

Заинтригованный, он начал ее искать и нашел ее появления на ИИ на Xiaohongshu — сайте, похожем на Instagram, — и Blibli, видеосайте, похожем на YouTube.

«Их было очень много [accounts]. У некоторых в биографии были такие вещи, как российские флаги», — сказала Ольга, которая на данный момент нашла около 35 аккаунтов, использующих ее изображение.

После того, как ее жених написал в Твиттере об этих аккаунтах, компания Хейген, которая утверждает, что разработала инструмент, используемый для создания таких вещей, как искусственный интеллект, отреагировала.

С его лицом было создано более 4900 видеороликов. Они сказали, что его изображение больше не должно использоваться.

Представитель компании сообщил BBC, что их компьютер был взломан с целью создания того, что они назвали «несанкционированным контентом», и что они немедленно обновили свои протоколы безопасности и проверки, чтобы предотвратить дальнейшее злоупотребление своим сайтом.

Но Анджела Чжан из Университета Гонконга говорит, что то, что случилось с Ольгой, «очень распространено в Китае».

«В стране существует обширная теневая экономика, которая специализируется на подделках, неправомерном использовании личных данных и производстве дипфейков», — сказал он.

Хотя Китай является одной из первых стран, пытающихся регулировать ИИ, его можно использовать для любых целей. Он внес изменения в свой Гражданский кодекс, чтобы защитить права солидарности от цифровой фабрикации.

Статистические данные, опубликованные Департаментом общественной безопасности в 2023 году, показывают, что власти арестовали 515 человек за операции по «замене лиц» с помощью ИИ. Китайские суды также рассматривали дела в этой области.

подпись к изображению, Ольга нашла около 35 аккаунтов, использующих ее образы.

Одной из причин может быть то, что они продвигали идею дружеских отношений между Китаем и Россией.

За последние годы Пекин и Москва значительно сблизились. Президент Китая Си Цзиньпин и президент России Путин заявили, что дружбе между двумя странами «нет предела». Они собираются встретиться в Китае на этой неделе.

«Неясно, скоординированы ли эти учетные записи для достижения общей цели, но продвижение идеи в соответствии с правительственной кампанией, безусловно, принесет им пользу», — сказала Эмми Хейн, исследователь права и технологий из Университета Болоньи и Левенского университета.

«Даже если эти аккаунты не связаны открыто с CCP [Chinese Communist Party]Продвижение согласованного сообщения может снизить вероятность удаления сообщений.

Но эксперты предупреждают, что это означает, что обычные люди, такие как Ольга, уязвимы и рискуют нарушить китайское законодательство.

Кайла Бломквист, технологический и геополитический аналитик из Оксфордского университета, предупреждает, что «отдельные люди рискуют оказаться в рамке искусственно созданного политически чувствительного контента», и могут быть подвергнуты «быстрым приговорам, вынесенным без надлежащей правовой процедуры».

Он добавляет, что внимание Пекина к искусственному интеллекту и политике конфиденциальности в Интернете направлено на защиту прав потребителей от хищнических частных лиц, но настаивает на том, что «права граждан по отношению к правительству очень слабы».

«Основная цель китайского регулирования искусственного интеллекта — сбалансировать поддержание социальной стабильности с продвижением инноваций и экономического роста», — объясняет г-жа Хайн.

«Хотя действующие правила кажутся строгими, есть свидетельства избирательного применения, в частности, разрабатываемое правило лицензирования ИИ, которое может быть направлено на создание более благоприятной для инноваций среды, с неявным пониманием того, что закон обеспечивает основу для опрокидывания в случае необходимости», — сказала она.

«Не последняя жертва»

подпись к изображению, Видео Ольги, сгенерированные искусственным интеллектом, лично разозлили ее как украинку

Но последствия дела Ольги выходят далеко за пределы Китая, демонстрируя сложность попыток регулирования отрасли, которая развивается с головокружительной скоростью, а регулирующие органы постоянно догоняют ее. Но это не значит, что они не пытаются.

READ  25-летний сын Евгения Пригожина получит российскую награду Вагнера на фоне войны на Украине | Мировые новости

В марте Европейский парламент одобрил Закон об искусственном интеллекте — первую в мире всеобъемлющую структуру по ограничению рисков, связанных с технологиями. В октябре прошлого года президент США Джо Байден объявил о распоряжении, требующем от разработчиков ИИ делиться данными с правительством.

Поскольку правила меняются медленно на национальном и международном уровне по сравнению с быстро развивающейся гонкой развития ИИ, г-жа Бломквист говорит, что нам нужно «четкое понимание и твердый консенсус относительно наиболее опасных угроз и способов их смягчения».

«Однако различия во мнениях внутри стран и между ними препятствуют конкретным действиям. США и Китай являются ключевыми игроками, но достижение консенсуса и координация необходимых коллективных действий будет сложной задачей», — добавил он.

Между тем, на личном уровне малыши не могут ничего не публиковать в Интернете.

«Единственное, что нужно сделать, — это не давать им никаких материалов для работы: не загружать свои фотографии, видео или аудио в общедоступные социальные сети», — говорит г-жа Хайн. «Однако у злоумышленников всегда будут мотивы последовать их примеру, поэтому я ожидаю, что мы увидим устойчивый рост на фоне нормативных махинаций, даже несмотря на то, что правительства принимают жесткие меры».

Ольга «на 100% уверена», что она не станет последней жертвой ИИ. Но она полна решимости не позволить этому оттолкнуть ее от Интернета.

Он делится своим опытом на своем канале YouTube и говорит, что некоторые китайские онлайн-пользователи помогают ему, комментируя видео с его изображениями и указывая на то, что они фейковые.

Многие из этих видео сейчас удалены, добавляет он.

«Я хотела поделиться своей историей и убедиться, что люди понимают: не все, что вы видите в Интернете, реально», — говорит она. «Мне нравится делиться своими идеями со всем миром, и ни один из этих мошенников не может помешать мне сделать это».