Крестный отец искусственного интеллекта Джеффри Хинтон предупреждает о рисках, когда он покинет Google

Человек, которого многие считают крестным отцом искусственного интеллекта (ИИ), уволился с работы, предупредив о растущих опасностях, связанных с разработками в этой области.

75-летний Джеффри Хинтон объявил о своем уходе из Google в заявлении для New York Times, заявив, что теперь он сожалеет о своей работе.

Он сказал Би-би-си, что некоторые риски, связанные с интеллектуальными чат-ботами, «очень страшны».

«На данный момент они не умнее нас, насколько я могу судить. Но я думаю, что скоро они могут стать».

Новаторские исследования доктора Хинтона в области глубокого обучения и нейронных сетей проложили путь для современных систем искусственного интеллекта, таких как ChatGPT.

Но британско-канадский когнитивный психолог и компьютерный ученый сказал Би-би-си, что чат-бот вскоре может превзойти уровень информации, удерживаемый человеческим мозгом.

«На данный момент мы видим, что такие вещи, как GPT-4, превосходят человека по количеству общих знаний, которые у них есть, и намного превосходят человека. С точки зрения рассуждений, это не очень хорошо, но это делает простые мышление.

«А учитывая темпы прогресса, мы ожидаем, что ситуация улучшится очень быстро. Так что мы должны беспокоиться об этом».

В статье в New York Times доктор Хинтон упомянул «плохих актеров», которые попытаются использовать ИИ для «плохих дел».

Когда Би-би-си попросила уточнить этот момент, он ответил: «Это всего лишь наихудший сценарий, что-то вроде кошмарного сценария.

«Можете себе представить, например, каких-нибудь плохих актеров вроде [Russian President Vladimir] Путин решил дать ботам возможность создавать собственные подцели.

В конечном итоге это может «создать подцели вроде «Мне нужно стать сильнее», — предупредил ученый.

Он добавил: «Я пришел к выводу, что тип интеллекта, который мы развиваем, сильно отличается от того интеллекта, который у нас есть.

«Мы биологические системы, а это цифровые системы. Большая разница в том, что с цифровыми системами у вас есть много копий одного и того же набора весов, одной и той же модели мира.

«И все эти клоны могут учиться по отдельности, но мгновенно делиться своими знаниями. Так что, если у вас есть 10 000 человек, и всякий раз, когда кто-то что-то изучает, все узнают об этом автоматически. Таким образом, эти чат-боты могут знать намного больше, чем любой другой человек».

Доктор Хинтон также сказал, что было несколько других причин для ухода с работы.

«Во-первых, мне 75 лет. Так что пора уходить на пенсию. Во-вторых, я действительно хочу сказать несколько хороших слов о Google. Было бы более правдоподобно, если бы я не работал в Google».

Он подчеркнул, что не хочет критиковать Google и что технический гигант ведет себя «очень ответственно».

В своем заявлении главный научный сотрудник Google Джефф Дин сказал: «Мы по-прежнему привержены ответственному подходу к ИИ. Мы постоянно учимся понимать возникающие риски, а также смело внедряем инновации».