Человек, которого многие считают крестным отцом искусственного интеллекта (ИИ), уволился с работы, предупредив о растущих опасностях, связанных с разработками в этой области.
75-летний Джеффри Хинтон объявил о своем уходе из Google в заявлении для New York Times, заявив, что теперь он сожалеет о своей работе.
Он сказал Би-би-си, что некоторые риски, связанные с интеллектуальными чат-ботами, «очень страшны».
«На данный момент они не умнее нас, насколько я могу судить. Но я думаю, что скоро они могут стать».
Новаторские исследования доктора Хинтона в области глубокого обучения и нейронных сетей проложили путь для современных систем искусственного интеллекта, таких как ChatGPT.
Но британско-канадский когнитивный психолог и компьютерный ученый сказал Би-би-си, что чат-бот вскоре может превзойти уровень информации, удерживаемый человеческим мозгом.
«На данный момент мы видим, что такие вещи, как GPT-4, превосходят человека по количеству общих знаний, которые у них есть, и намного превосходят человека. С точки зрения рассуждений, это не очень хорошо, но это делает простые мышление.
«А учитывая темпы прогресса, мы ожидаем, что ситуация улучшится очень быстро. Так что мы должны беспокоиться об этом».
В статье в New York Times доктор Хинтон упомянул «плохих актеров», которые попытаются использовать ИИ для «плохих дел».
Когда Би-би-си попросила уточнить этот момент, он ответил: «Это всего лишь наихудший сценарий, что-то вроде кошмарного сценария.
«Можете себе представить, например, каких-нибудь плохих актеров вроде [Russian President Vladimir] Путин решил дать ботам возможность создавать собственные подцели.
В конечном итоге это может «создать подцели вроде «Мне нужно стать сильнее», — предупредил ученый.
Он добавил: «Я пришел к выводу, что тип интеллекта, который мы развиваем, сильно отличается от того интеллекта, который у нас есть.
«Мы биологические системы, а это цифровые системы. Большая разница в том, что с цифровыми системами у вас есть много копий одного и того же набора весов, одной и той же модели мира.
«И все эти клоны могут учиться по отдельности, но мгновенно делиться своими знаниями. Так что, если у вас есть 10 000 человек, и всякий раз, когда кто-то что-то изучает, все узнают об этом автоматически. Таким образом, эти чат-боты могут знать намного больше, чем любой другой человек».
Доктор Хинтон также сказал, что было несколько других причин для ухода с работы.
«Во-первых, мне 75 лет. Так что пора уходить на пенсию. Во-вторых, я действительно хочу сказать несколько хороших слов о Google. Было бы более правдоподобно, если бы я не работал в Google».
Он подчеркнул, что не хочет критиковать Google и что технический гигант ведет себя «очень ответственно».
В своем заявлении главный научный сотрудник Google Джефф Дин сказал: «Мы по-прежнему привержены ответственному подходу к ИИ. Мы постоянно учимся понимать возникающие риски, а также смело внедряем инновации».
«Энтузиаст социальных сетей. Пивной ботаник. Злой коммуникатор. Любитель поп-культуры. Склонен к приступам апатии».
More Stories
Nintendo запускает музыкальное приложение с темами из Марио и Зельды и, что более важно, канал Wii Shop.
Загрузки Call of Duty: Black Ops 6 позволяют максимально эффективно использовать Интернет
Интересные факты M4 Mac mini: изменения в дизайне, поддержка внешнего дисплея и многое другое