Google и Microsoft устроили битву за оборудование для искусственного интеллекта с помощью Next

Агам Шах

20 февраля 2023 г.

Microsoft и Google способствуют серьезному сдвигу в компьютерных технологиях, предоставляя людям искусственный интеллект через поисковые системы, и одним из показателей успеха может быть оборудование и инфраструктура центров обработки данных, поддерживающая приложения.

На прошлой неделе Microsoft и Google анонсировали поисковые системы следующего поколения на базе искусственного интеллекта, которые могут рассуждать и прогнозировать, а также предоставлять более полные ответы на вопросы пользователей. Поисковые системы смогут генерировать полные ответы на сложные запросы, подобно тому, как ChatGPT может предоставлять подробные ответы или составлять эссе.

Microsoft внедряет ИИ в Bing для ответа на текстовые запросы, а Google поделилась планами внедрить ИИ в свои инструменты поиска текста, изображений и видео. Объявления были сделаны несколько дней подряд на прошлой неделе.

Компании признали, что внедрение ИИ в поисковые системы было бы невозможно без мощной аппаратной инфраструктуры. Компании не поделились подробностями об аппаратном обеспечении, на котором работают ИИ-вычисления.

В течение многих лет Microsoft и Google разрабатывали аппаратное обеспечение искусственного интеллекта, предназначенное для анонсов в прайм-тайм, таких как поисковые системы искусственного интеллекта, представленные на прошлой неделе.

Компании имеют совершенно разные вычислительные инфраструктуры искусственного интеллекта, а скорость ответов и точность результатов станут проверкой жизнеспособности поисковых систем.

Google Bard работает на чипах TPU (Tensor Processing Unit) в своем облачном сервисе, что подтвердил источник, знакомый с планами компании. Microsoft заявила, что ее суперкомпьютер искусственного интеллекта в Azure, который, вероятно, работает на графических процессорах, может выдавать результаты порядка миллисекунд или со скоростью задержки поиска.

Это порождает публичную битву в сфере ИИ-вычислений между TPU Google и лидером рынка ИИ, Nvidia, чьи графические процессоры доминируют на рынке.

«Команды работали над обеспечением питания и созданием компьютеров и центров обработки данных по всему миру. Мы тщательно организовывали и настраивали сложный набор распределенных ресурсов. Мы создавали новые части платформы, предназначенные для балансировки нагрузки, оптимизации производительности и масштабирования, как никогда раньше», — сказал Дена. Сондерс, руководитель продукта Bing в Microsoft, во время презентации.

Microsoft использует более продвинутую версию ChatGPT OpenAI. На мероприятии Microsoft генеральный директор OpenAI Сэм Альтман подсчитал, что ежедневно обрабатывается 10 миллиардов поисковых запросов.

Путь Microsoft к Bing с искусственным интеллектом начался с проверки наличия вычислительной мощности суперкомпьютера с искусственным интеллектом, который, по утверждению компании, входит в пятерку самых быстрых суперкомпьютеров в мире. Компьютер не входит в рейтинг Top500.

«Мы упомянули суперкомпьютер с искусственным интеллектом, но эта работа заняла годы и потребовалось много инвестиций, чтобы создать тот тип масштаба, тип скорости и тип затрат, которые мы можем внести в каждый уровень стека. Я думаю, что …масштабы, в которых мы работаем, весьма дифференцированы», — сказала Эми Худ, исполнительный вице-президент и главный финансовый директор Microsoft, во время разговора с инвесторами на прошлой неделе.

По словам Худа, стоимость вычислений для ИИ на уровне суперкомпьютеров со временем будет продолжать снижаться по мере масштабирования использования и оптимизации.

«Конечно, стоимость одной поисковой транзакции имеет тенденцию снижаться с увеличением масштаба. Я думаю, что мы начинаем с довольно надежной платформы, способной сделать это», — сказал Худ.

Затраты на вычисления обычно растут по мере внедрения большего количества графических процессоров, а затраты на охлаждение и другую вспомогательную инфраструктуру увеличивают счета. Но компании обычно связывают доходы со стоимостью вычислений.

Суперкомпьютер искусственного интеллекта Microsoft был создан в сотрудничестве с OpenAI и имеет 285 000 процессорных ядер и 10 000 графических процессоров. В ноябре Nvidia подписала соглашение о размещении десятков тысяч своих графических процессоров A100 и H100 в инфраструктуре Azure.

По данным Statcounter, доля Microsoft в поисковой системе Bing и близко не приближается к Google Search, доля рынка которой в январе составляла 93 процента.

Искусственный интеллект — это принципиально другой стиль вычислений, основанный на способности рассуждать и прогнозировать, в то время как традиционные вычисления вращаются вокруг логических вычислений. ИИ создается на оборудовании, способном выполнять матричное умножение, в то время как традиционные вычисления вращаются вокруг центральных процессоров, которые превосходно справляются с последовательной обработкой данных.