Партнерство Microsoft OpenAI возникло из зависти Google

Оказывается, сегодняшнюю ситуацию в области ИИ можно объяснить страхом, завистью и сильными капиталистическими амбициями. Электронные письма, впервые раскрытые в антимонопольном деле Министерства юстиции против Google упомянул к Интересуюсь торговлей, показано, как руководители Microsoft выражают раздражение и зависть по поводу прогресса Google в области искусственного интеллекта. Это создало срочную ситуацию, которая привела к тому, что производитель Windows сделал первоначальные инвестиции в размере 1 миллиарда долларов в своего теперь незаменимого партнера OpenAI.

В сильно отредактированной серии электронных писем 2019 года под названием «Мысли об OpenAI» генеральный директор Microsoft Сатья Наделла отправляет длинное письмо от технического директора Кевина Скотта финансовому директору Эми Худ. «Очень хорошее электронное письмо, объясняющее, почему я хочу, чтобы мы это сделали… а также почему мы затем будем следить за тем, чтобы наши сотрудники по инфраструктуре сделали это», — написал Наделла.

Скотт написал, что он «глубоко обеспокоен» быстро растущими возможностями Google в области искусственного интеллекта. Он говорит, что изначально отверг «захватывающие геймплейные игры» компании, вероятно, имея в виду модели Google AlphaGo. Один из них победил чемпиона мира Го Кэ Цзе в 2017 году, что для того времени было впечатляющим достижением. (Более поздние модели Google вышли за рамки этой модели, полностью устранив необходимость в обучении человека.)

Но Скотт говорит, что игнорирование прогресса Google в играх «было ошибкой». «Когда они захватили всю построенную ими инфраструктуру [natural language] «Модели, которые нам было нелегко воспроизвести, начали относиться к вещам более серьезно», — писал Скотт. «Когда я углубился в попытки понять, в чем заключаются все пробелы в возможностях между Google и нами с точки зрения модульного обучения, я почувствовал себя очень, очень обеспокоенным».

Скотт вспоминает, как Microsoft изо всех сил пыталась скопировать большую модель BERT от Google, модель искусственного интеллекта, которая расшифровывает значение и контекст слов в предложении. Скотт обвинил в этом скачки в инфраструктуре, сделанные его конкурентом, чего не сделала Microsoft.

«Оказалось, что просто воспроизвести большую модель BERT для нас было непросто. «Несмотря на то, что у нас была готовая модель, нам потребовалось около 6 месяцев на ее обучение, поскольку наша инфраструктура не соответствовала поставленной задаче», — сказал технический директор Microsoft. написал: «До этого у Google было BERT как минимум шесть месяцев, поэтому за время, которое нам потребовалось, чтобы взломать возможность обучения модели с параметрами 340M, у них был год, чтобы выяснить, как запустить ее в производство и двигаться дальше. к более широким и интересным моделям.

Он также выразил восхищение и зависть к возможностям автозаполнения Gmail от Google, заявив, что они «стали пугающе хорошими». Он отметил, что Microsoft «на несколько лет отставала от конкурентов с точки зрения… [machine learning] Объем». Он прокомментировал «интересный» рост OpenAI, DeepMind и Google Brain.

Скотт похвалил «очень умных» людей Microsoft в командах по машинному обучению, но сказал, что их амбиции ограничены. «Но основные команды глубокого обучения в каждой из этих больших команд очень малы, и их амбиции также ограничены, а это означает, что даже когда мы начинаем снабжать их ресурсами, им все равно придется пройти процесс обучения, чтобы масштабировать работу», Скотт написал. «И мы на несколько лет отстаем от конкурентов по масштабам машинного обучения».

После того, как Худ заявил, что Скотта беспокоит вопрос «почему я хочу, чтобы мы это сделали», а именно инвестиции в OpenAI, компания выполнила пожелание своего генерального директора. Microsoft инвестировала 1 миллиард долларов в стартап под руководством Сэма Альтмана в 2019 году, а остальное — это быстро меняющаяся история. (Сейчас компания инвестировала 13 миллиардов долларов.) Это технология, которая делает невероятные вещи, но грозит уничтожить рынок труда и дает проповедникам самый мощный инструмент в эпоху безудержной дезинформации.