Почему Джеффри Хинтон решил, что ему следует «разоблачить» технологии

Нью-Йорк (CNN) Джеффри Хинтон, также известный как «Крестный отец искусственного интеллектаОн решил, что ему нужно «высвистывать» технологию, которую он помог разработать, после беспокойства о том, насколько она умна, сказал он CNN во вторник.

«Я просто ученый, который внезапно понимает, что эти вещи становятся умнее нас», — сказал Хинтон корреспонденту CNN Джейку Тапперу в интервью во вторник. «Я хочу как бы разоблачить и сказать, что мы должны быть серьезно обеспокоены тем, как нам не дать этим вещам завладеть нами».

Новаторская работа Хинтона в области нейронных сетей формирует системы искусственного интеллекта, лежащие в основе многих современных продуктов. В понедельник он попал в заголовки новостей из-за того, что оставил свою должность в Google, где проработал десять лет, чтобы рассказать о своем растущем беспокойстве по поводу технологии.

В интервью в понедельник Нью-Йорк ТаймсХинтон, который первым сообщил о своем шаге, сказал, что его беспокоит способность ИИ сокращать рабочие места и создавать мир, в котором «многие больше не смогут сказать, что правильно». Он также отметил поразительные темпы прогресса, которые намного превышают то, что он и другие ожидали.

«Если бы он стал умнее нас, он бы очень хорошо умел манипулировать, потому что научился бы этому от нас, а примеров того, как что-то более разумное контролируется чем-то менее разумным, очень мало», — сказал Хинтон Тапперу. Вторник.

«Она знает, как кодировать, поэтому она найдет способы обойти ограничения, которые мы на нее наложили. Она найдет способы манипулировать людьми, чтобы они делали то, что они хотят».

Хинтон — не единственный лидер в области технологий, который откровенно высказался о своих опасениях по поводу ИИ. Ряд членов сообщества подписали сообщение в марте Просьба к AI Labs прекратить обучение самых мощных систем искусственного интеллекта как минимум на шесть месяцев, сославшись на «глубокий риск для общества и человечества».

сообщение, опубликовано Институт будущего жизни, некоммерческая Поддерживается Илон Маск, всего через две недели после OpenAI объявить GPT-4, более мощная версия технологии вирусного чат-бота, поддерживающая ChatGPT. В первых тестах и ​​в демонстрационной версии GPT-4 использовался для составления исков, прохождения стандартизированных тестов и создания работающего веб-сайта на основе нарисованного от руки эскиза.

Соучредитель Apple Стив Возняк, который был одним из тех, кто подписал это письмо, во вторник появился на канале CNN This Morning, повторив опасения по поводу его способности распространять дезинформацию.

«Обман будет намного проще для тех, кто хочет вас обмануть», — сказал Возняк CNN. «Мы не вносим никаких изменений в этом отношении — мы просто предполагаем, что законы, которые у нас есть, позаботятся об этом».

Возняк также сказал, что может понадобиться «какая-то организация».

Со своей стороны, Хинтон сказал CNN, что не подписывал петицию. «Я не думаю, что мы сможем остановить прогресс», — сказал он. «Я не подписывал петицию, в которой говорилось, что мы должны прекратить работу над ИИ, потому что, если люди в Америке остановятся, люди в Китае этого не сделают».

Но он признал, что нет четкого ответа, что делать вместо этого.

«Мне не ясно, сможем ли мы решить эту проблему, — сказал Хинтон Тапперу. «Я думаю, что мы должны приложить много усилий, чтобы подумать о способах решения проблемы. В данный момент у меня нет решения».