Многие поставщики облачных услуг (CSP — Cloud Service Provider) начали вкладывать средства в оборудование, на котором тренируют и запускают системы ИИ. В 2022 году ИИ-серверы на базе графических процессоров общего назначения (GPGPU) занимали только 1 % мирового рынка серверов. Прогнозируется, что в 2023 году поставки серверов ИИ вырастут на 8 % в годовом исчислении. Кроме того, поставки серверов ИИ будут увеличиваться в среднем на 10,8 % в год с 2022 по 2026 год.
Источник изображения: Pixabay
Основные североамериканские CSP (Google, AWS, Meta✴ и Microsoft) в совокупности занимали наибольшую долю годового общего спроса на ИИ-серверы в 2022 году, составляя 66,2 % годового глобального объёма закупок. Что касается Китая, то там в последние годы набирают обороты локализация производства и самодостаточность критически важных технологий, поэтому в стране ускорилось создание ИИ-инфраструктуры. Среди китайских CSP лидером по закупкам ИИ-серверов в 2022 году стала ByteDance с долей 6,2 % в общем объёме закупок. Далее следуют Tencent, Alibaba и Baidu, на долю которых приходится 2,3 %, 1,5 % и 1,5 % соответственно.
Источник изображения: Trendforce
Для вычислений, связанных с ИИ, используются ускорители вычислений на графических процессорах H100, A100 и A800 от NVIDIA, а также MI250 и MI250X от AMD. Следует отметить, что A800 разработан специально для китайского рынка в условиях последних экспортных ограничений. Что касается доли рынка серверных графических процессоров, NVIDIA сейчас контролирует около 80 %, тогда как AMD принадлежат остальные 20 %.
Чат-бот ChatGPT от OpenAI, спонсируемой Microsoft, в основном использует графические процессоры NVIDIA A100 и облачные ресурсы Microsoft Azure. Если объединить потребности ChatGPT и других приложений Microsoft, то в 2023 году потребность Microsoft в ИИ-серверах составит около 25 000 единиц.
Erenie от Baidu изначально также использовал NVIDIA A100. Однако из-за ограничений, введённых Министерством торговли США, теперь систему перевели на NVIDIA A800. Прогнозируемый спрос Baidu на ИИ-серверы в 2023 году составит около 2000 единиц.
Серверные графические процессоры требуют памяти с высокой пропускной способностью (HBM — High Bandwidth Memory), которая на данный момент занимает 1,5 % от всего рынка DRAM. Основными поставщиками решений HBM являются Samsung, SK hynix и Micron. Ожидается, что SK hynix станет доминирующим поставщиком решений HBM3 для NVIDIA. По прогнозам, рынок решений HBM будет расти со среднегодовым темпом выше 40–45 % в период с 2023 по 2025 год.
Облачные компании по всему миру будут вкладывать всё больше средств в серверы ИИ в последующие годы. Несмотря на то, что расходы на ИТ сокращаются из-за стагнации мировой экономики и высокой инфляции, сектор технологий ИИ показывает бурный рост и именно в этом направлении будут производиться основные инвестиции в сфере информационных технологий.