С одной стороны, проблемы с поставками новейших ускорителей вычислений Nvidia в Китай вынуждают местных разработчиков ориентироваться на альтернативы китайского происхождения. С другой стороны, если стоимость миграции ПО на китайскую платформу окажется слишком высокой, эксперты советуют сохранить приверженность компонентной базе Nvidia.
Источник изображения: Nvidia
Во всяком случае, подобные рекомендации операторам китайских центров обработки данных дают эксперты CAICT — Китайской академии информационных и телекоммуникационных технологий, как сообщает South China Morning Post. «Если условия позволяют, ЦОД должны выбирать высокопроизводительные ускорители A100 и H100. Если потребность в вычислительных ресурсах ограничена, то можно остановить выбор на H20 или китайских альтернативах», — буквально рекомендуют эксперты.
Проблема не столь проста, поскольку западные санкции мешают китайским операторам ЦОД закупать производительные ускорители Nvidia, а «легализованные» H20 могут уступать китайским альтернативам. Но даже в этом случае разработчикам порой лучше остаться на платформе Nvidia, чем заниматься долгим и дорогим процессом миграции своих программных решений на ускорители китайского происхождения. Эксперты CAICT при этом не скрывают, что санкции США за последние три года способствовали активному развитию китайских разработчиков ПО и аппаратного обеспечения. И всё же, миграция обучаемых на базе решений Nvidia языковых моделей на китайские платформы требует значительных затрат, а потому не всегда представляется рациональной.
До августа 2022 года Nvidia сохраняла право поставлять в Китай ускорители A100 и H100, но введённые позже санкции заставили её в сжатые сроки наладить поставки модифицированных с учётом американских ограничений ускорителей A800 и H800, которые можно было поставлять до октября прошлого года. После этого и они попали под санкции, в результате Nvidia пришлось разработать для китайского рынка ускорители H20, L20 и L2.
К концу прошлого года совокупная производительность функционирующих в Китае центров обработки данных выросла на 27 % до 230 экзафлопс. На направлении искусственного интеллекта китайские вычислительные мощности росли гораздо быстрее, на 70 % год к году. По состоянию на июнь текущего года, в КНР строились или уже были введены в строй более 250 вычислительных центров с доступом в интернет. Не все из них могли похвастать удачным расположением, поскольку находились на удалении от основных центров технологического развития. Китайская отрасль может пострадать не только от избытка вычислительных мощностей, но и от низкого уровня их загрузки, а также посредственного качества обрабатываемых данных. Графические процессоры в Китае, по данным CAICT, в среднем загружены расчётами всего на 40 %, а ещё имеющиеся ЦОД страдают об плохой сбалансированности ресурсов, которая также снижает их КПД. Взаимную интеграцию кластеров затрудняет необходимость использования разнородного оборудования и программного обеспечения различных поставщиков.