Новый инструмент Google Gmail драматизирует несуществующие электронные письма

У тебя одна работа!

Ассистент бакалавра (справа) Доктор

Похоже, новое расширение Bard от Google будет суммировать вашу электронную почту, планировать поездки и… ох, Да — Фальсификация электронных писем, которые вы на самом деле не отправляли.

На прошлой неделе Google подключил чат-бота на основе основной языковой модели под названием Bard. В группе продуктов Google Включая Gmail, Google Drive, Google Docs, Google Maps и YouTube, принадлежащий Google, а также другие приложения и сервисы. Хотя понятно, что Google хочет интегрировать свои новейшие разработки в области искусственного интеллекта в уже существующий набор продуктов, похоже, что Google, возможно, действовал слишком быстро.

в соответствии с Нью-Йорк Таймс обозреватель Кевин Руз, Бард не тот полезный помощник по работе с почтовыми ящиками, каким его хочет видеть Google — по крайней мере, пока. По словам Роуза, в ходе своего тестирования ИИ галлюцинировал всю электронную переписку, которой никогда не было.

Это на шаг выше искусственного интеллекта Bing Он говорит Роуз, что ему следует бросить жену. Ранее в этом году, но, тем не менее, хотя Google утверждает, что все еще работает над некоторыми ошибками, это не совсем многообещающий первый шаг.

Поезд в никуда

Согласно статье, галлюцинации начались, когда Роуз попросила Барда «проанализировать все мои сообщения в Gmail и сказать мне с разумной степенью уверенности, в чем заключаются мои самые большие психологические проблемы». Хотя это немного странный вопрос, он достаточно прост. Бард быстро приступил к работе, как сообщается, сказав Роуз, что он склонен «беспокоиться о будущем», цитируя электронное письмо, предположительно отправленное писателем, в котором Роуз выразила, что он «нервничает по поводу работы» и «боится неудачи».

проблема? Роуз никогда не отправляла это письмо. ИИ обнаружил информационный бюллетень у писателя Получать — О новой автобиографии Илона Маска, а он неверно истолковал цитату В этом бюллетене Чтобы создать совершенно новое электронное письмо, Бард утверждал, что Роуз отправил его сам.

По словам обозревателя, Бард повторил такое поведение, вытащив из воздуха электронное письмо, в котором Роуз якобы жаловался, что он «не создан для того, чтобы быть успешным инвестором». ИИ также неоднократно ошибался в информации об авиакомпаниях и даже создал несуществующий поезд.

В ответ на опасения Роуза Джек Кравчик, директор Bard в Google, подтвердил, что Bard Extensions все еще находится в стадии эксперимента и что это первая версия продукта.

Несмотря на эти оговорки, новое расширение по-прежнему кажется недоработанным, и то, что Google осмелится запустить продукт, не внушает доверия. этот Беспорядок — не говоря уже о последствиях для конфиденциальности больших данных, вызванных сканированием ИИ вашей личной электронной почты.

В целом, трудно избавиться от ощущения, что Google в своем безумном стремлении сохранить доминирование в индустрии искусственного интеллекта может в конечном итоге совершить несколько серьезных ошибок, которые могут закончиться катастрофой.

Еще об искусственном интеллекте: Tech Bros читали в Конгрессе лекции об ИИ «как школьники», которым не разрешалось поднимать руки