Google вводит дополнительные ограничения на функцию «Обзоры искусственного интеллекта» после того, как попросил людей наносить клей на пиццу

Лиз Рид, руководитель отдела поиска Google, признала, что поисковая система компании выдала несколько «странных, неточных или бесполезных обзоров ИИ» после того, как он был публично представлен в США. Руководитель опубликовал объяснение наиболее странных ответов Google, сгенерированных ИИ, в файле. Сообщение блогаТакже было объявлено, что компания внедрила меры безопасности, которые помогут новой функции давать более точные и менее достойные мемов результаты.

Рид защищал Google и отметил, что некоторые из наиболее вопиющих ответов на циркулирующие обзоры ИИ, такие как утверждения о том, что оставлять собак в машинах безопасно, являются фейком. Вирусный скриншот с ответом на вопрос «Сколько камней мне следует съесть?» Это правда, но она сказала, что Google нашел ответ, потому что сайт опубликовал сатирический контент по этой теме. «До того, как эти скриншоты стали вирусными, практически никто не задавал Google этот вопрос», — пояснила она, поэтому ИИ компании был связан с этим сайтом.

Вице-президент Google также подтвердил, что AI Review просил людей использовать клей, чтобы сыр прилип к пицце, основываясь на материалах, взятых с форума. По ее словам, форумы обычно предоставляют «правдивую и простую информацию», но также могут привести к «бесполезным советам». Однако генеральный директор не упомянул другие ответы, циркулирующие вокруг обзора ИИ. Вашингтон Пост По имеющимся данным, технология также сообщала пользователям, что Барак Обама был мусульманином и что людям следует пить много мочи, чтобы избавиться от камней в почках.

Рид сказал, что компания тщательно протестировала эту функцию перед запуском, но «нет ничего лучше, чем миллионы людей, использующих эту функцию для такого большого количества новых поисковых запросов». Похоже, что Google смог выявить закономерности, в которых его технология искусственного интеллекта не могла добиться правильного результата, проанализировав примеры своих ответов за последние две недели. Затем на основе отзывов компания внедрила меры защиты, начав с настройки своего искусственного интеллекта, чтобы он мог лучше обнаруживать юмор и сатирический контент. Компания также обновила свои системы, чтобы ограничить добавление ответов пользователей в обзоры, таких как сообщения в социальных сетях и на форумах, которые могут давать людям вводящие в заблуждение или даже вредные советы. Кроме того, он «также добавил ограничения на триггеры для запросов, в которых обзоры ИИ не оказались полезными» и прекратил отображать ответы, сгенерированные ИИ, по некоторым темам, связанным со здоровьем.