Совокупная вычислительная мощь кластера определяется не только удельной производительностью каждого ускорителя, но и способностью создателей объединять их максимальное количество в одной системе. Китайская компания Moore Threads предложила своим клиентам решение, позволяющее создать кластер из 10 000 ускорителей, во многом нивелируя ограничения США на масштабирование таких систем.
Источник изображения: Moore Threads
Напомним, что Moore Threads была основана в 2020 году опытным специалистом Nvidia, который задался целью выпускать подобные ускорители вычислений и игровые видеокарты для китайского рынка, но к октябрю 2023 года компания закономерно попала под экспортные ограничения США. Компенсировать более низкую производительность своих ускорителей вычислений по сравнению с решениями Nvidia компания пытается созданием более выгодных условий для масштабирования кластеров.
В частности, как отмечает South China Morning Post, модернизированное решение KUAE позволяет увеличить количество работающих в одном кластере ускорителей Moore Threads до 10 000 штук. Ускорители MTT S4000 оснащаются чипами с 128 тензорными ядрами и 48 Гбайт памяти, а соединяться друг с другом им позволяет интерфейс MTLink. Теперь в одном кластере можно объединить до 10 000 ускорителей, обеспечив более высокую совокупную производительность вычислений. Решение Nvidia A100, поставки которого в Китай запрещены, в три раза превосходит MTT S4000 по быстродействию, хотя и не является новейшим в ассортименте продукции американской компании. В условиях санкций китайские разработчики систем искусственного интеллекта всё равно вынуждены полагаться на местных поставщиков ускорителей, Moore Threads является одним из них.