Чип Meta✴ Training and Inference Accelerator (MTIA) предназначен для обучения и запуска ИИ-систем, изначально разрабатывался для оптимальной работы с моделями ранжирования и рекомендаций Meta✴. MTIA является важной частью долгосрочного плана компании по созданию ИИ-инфраструктуры для своих сервисов. Чип первого поколения был анонсирован в мае 2023 года. Второе поколение ждали не раньше 2025 года, но компания сообщила, что свежий чип уже запущен в производство.
Источник изображения: world-today-news.com
По информации от Meta✴, новый чип MTIA «фундаментально ориентирован на обеспечение правильного баланса вычислительной производительности, пропускной способности и объёма памяти». Он получит 256 Мбайт встроенной памяти с частотой 1,3 ГГц по сравнению с 128 Мбайт и 800 МГц у первой версии. Ранние результаты испытаний Meta✴ на четырёх разных моделях ИИ показали, что новый чип MTIA 2 в среднем в три раза быстрее. Сейчас MTIA в основном применяется на алгоритмах ранжирования и рекомендаций, но в конечном итоге Meta✴ стремится расширить возможности чипа для работы с генеративным ИИ, таким, как большая языковая модель Llama.
«Достижение наших амбиций в отношении специального чипа означает инвестирование не только в вычислительный кремний, но также в пропускную способность памяти, сеть и ёмкость, а также в другие аппаратные системы следующего поколения», — говорится в сообщении Meta✴. Компания планирует разработать и другие чипы искусственного интеллекта. Одним из таких проектов является Artemis — чип, специально разработанный для ускорения инференса.
Другие компании, занимающиеся искусственным интеллектом, рассматривают возможность создания собственных чипов, поскольку спрос на вычислительную мощность растёт одновременно с ростом популярности систем искусственного интеллекта. Google выпустила свои чипы TPU, Microsoft анонсировала чипы Maia 100. У Amazon также есть собственный чип Trainium 2, обучение базовых моделей на котором происходит в четыре раза быстрее, чем на предыдущей версии.
Бум искусственного интеллекта вынудил все крупные технологические компании приступить к разработке собственных ускорителей ИИ. Спрос на чипы настолько высок, что капитализация лидера этого рынка компании Nvidia достигла двух триллионов долларов.