OpenAI заявляет, что Россия и Китай использовали ИИ в тайных кампаниях

Подобно Google, Meta и Microsoft, OpenAI предлагает онлайн-чат-ботов и другие инструменты искусственного интеллекта, которые могут писать сообщения в социальных сетях, создавать фотореалистичные изображения и писать компьютерные программы. В своем отчете компания сообщила, что ее инструменты использовались в кампаниях влияния, которые исследователи отслеживали в течение многих лет, включая российскую кампанию под названием Doppelganger и китайскую кампанию под названием Spamouflage.

Кампания Doppelganger использовала технологию OpenAI для размещения антиукраинских комментариев, которые были опубликованы на X на английском, французском, немецком, итальянском и польском языках, сообщает OpenAI. Инструменты компании также использовались для перевода и редактирования статей в поддержку России в войне на Украине на английский и французский языки, а также для преобразования антиукраинских новостных статей в посты в Facebook.

Компания заявила, что инструменты OpenAI также использовались в ранее неизвестной российской кампании, нацеленной на людей в Украине, Молдове, странах Балтии и США, в основном через службу обмена сообщениями Telegram. Кампания использовала искусственный интеллект для создания комментариев на русском и английском языках о войне на Украине, а также о политической ситуации в Молдове и политике США. В этих усилиях также использовались инструменты OpenAI для отладки компьютерного кода, который, по-видимому, был предназначен для автоматической публикации информации в Telegram.

OpenAI заявила, что политические комментарии получили мало ответов и «лайков». Усилия также иногда были бесхитростными. В какой-то момент кампания опубликовала текст, который явно был сгенерирован искусственным интеллектом, причем в одном сообщении говорилось: «Как языковая модель искусственного интеллекта, я здесь, чтобы помочь и предоставить запрошенную обратную связь». В других случаях они писали на плохом английском языке, что побудило OpenAI назвать эти усилия «плохой грамматикой».

По словам OpenAI, компания Spamouflage, которую долгое время приписывали Китаю, использовала технологию OpenAI для отладки программного обеспечения и получения советов о том, как анализировать социальные сети и исследовать текущие события. Его инструменты также использовались для создания в социальных сетях постов, унижающих людей, критиковавших китайское правительство.