Представители TSMC недавно дали понять, что в части услуг по упаковке чипов методом CoWoS компания сейчас способна удовлетворять потребности клиентов от силы на 80 %, и на фоне резко растущего спроса устранить дефицит удастся лишь к концу следующего года. По данным тайваньских СМИ, сейчас TSMC вынуждена расширять профильные мощности быстрее, чем планировала изначально.

Источник изображения: NVIDIA

Издание Taiwan Economic Daily поясняет, что сперва TSMC рассчитывала увеличить производительность профильных линий с 12 000 кремниевых пластин в месяц до 15 000 или 20 000 пластин в месяц, завершив этот этап расширения к концу первого квартала следующего года. Теперь возникла потребность поднять производительность линий по упаковке чипов методом CoWoS ещё примерно на 30 %, до 25 000 или 30 000 пластин в месяц. По крайней мере, к концу второго квартала TSMC рассчитывает получить от производителей оборудования всё необходимое, чтобы уже во второй половине следующего года выйти на новый объём ежемесячной упаковки чипов. В целом, как отмечалось ранее, TSMC готова к концу следующего года удвоить профильные мощности по сравнению с текущим уровнем.

NVIDIA сейчас получает около 60 % квот на данный вид услуг, как поясняют тайваньские источники, оставаясь крупнейшим клиентом TSMC. При этом спрос на упаковку методом CoWoS растёт и со стороны других разработчиков, включая AMD, Broadcom и Amazon, поэтому TSMC вынуждена увеличивать производственные мощности не только по прихоти NVIDIA. Поставщики профильного оборудования для упаковки чипов с воодушевлением смотрят на перспективы роста своей выручки вплоть до середины следующего года, поскольку заказами со стороны TSMC они как раз обеспечены до этого времени.

Сейчас именно способность TSMC упаковывать ускорители вычислений A100 и H100 в известной степени ограничивает возможности NVIDIA по увеличению объёмов их поставок на фоне бума систем искусственного интеллекта. Руководство NVIDIA готово привлекать новых партнёров к решению этой проблемы, но «перепрыгнуть» через TSMC ему всё равно не удастся, поскольку технология производства указанных чипов NVIDIA подразумевает использование только упаковки CoWoS в исполнении конкретного тайваньского подрядчика.

На недавней квартальной конференции руководство TSMC было вынуждено признать, что сейчас компания не в силах удовлетворить спрос на услуги по упаковке и тестированию чипов в полной мере, и ситуацию удастся нормализовать лишь к концу следующего года, но для этого компании придётся буквально удвоить профильные мощности. Сегодня стало известно, что одно из новых предприятий по упаковки чипов появится на севере Тайваня.

Источник изображения: IBM

Его строительство, как сообщает Reuters, обойдётся компании TSMC в $2,9 млрд. Как сообщили представители этого контрактного производителя чипов, ради удовлетворения рыночного спроса на подобные услуги, компания построит предприятие по упаковке чипов с использованием передовых технологий в технопарке Тонлуо округа Мяоли. Сейчас спрос на данные услуги подогревается интересом клиентов к выпуску ускорителей вычислений, которые требуют высокой плотности размещения транзисторов, которая в современных условиях достигается использованием сложной пространственной компоновки кристаллов.

Администрация округа Мяоли на севере Тайваня одобрила проект строительства, выделив подходящий участок земли на территории технопарка Тонлуо. По данным властей, это предприятие сможет обеспечить работой до 1500 человек. В следующем году, как стало известно на прошлой неделе, руководство TSMC собирается от 70 до 80 % капитальных расходов направить на освоение передовой литографии, на зрелую выделить до 10–20 %, а оставшиеся 10 % распределить между проектами по упаковке чипов и прочими потребностями. Если учесть, что рассчитывать на значительное увеличение капитальных затрат TSMC по сравнению с текущим годом ($32 млрд) не планируется, строительство предприятия по упаковке чипов на севере Тайваня наверняка займёт почти весь целевой бюджет.

Компания TSMC при производстве востребованных рынком ускорителей вычислений NVIDIA использует собственные возможности по пространственной упаковке чипов (CoWoS), но по мере роста спроса их перестало хватать, поэтому тайваньский гигант взял курс на расширение. К концу следующего года они должны быть удвоены, если верить осведомлённым источникам.

Источник изображения: NVIDIA

О соответствующих планах стало известно с подачи тайваньского издания DigiTimes, на которое ссылается ресурс Tom’s Hardware. Сейчас собственные мощности TSMC по упаковке чипов по методу CoWoS позволяют обрабатывать ежемесячно не более 8000 кремниевых пластин. К концу текущего года объёмы будут увеличены до 11 000 кремниевых пластин в месяц, а к концу следующего — до всех 16 000 в самом оптимистичном варианте. Ранние слухи упоминали о планах TSMC увеличить объёмы до 20 000 пластин в месяц к концу 2024 года, но в условиях нестабильности рынка подобные коррективы возможны как в одну, так и в другую сторону.

Клиентами TSMC в этой сфере, помимо NVIDIA, являются Amazon (AWS), Broadcom, Cisco и Xilinx (AMD). Сейчас TSMC, по данным тайваньских СМИ, активно закупает оборудование, необходимое для расширения мощностей по упаковке чипов с использованием метода CoWoS. Утверждается, что NVIDIA уже зарезервировала за собой около 40 % производственной программы TSMC на следующий год по этому направлению. Американскому разработчику чипов даже пришлось искать дополнительных подрядчиков в лице Amkor Technology и UMC на выполнение таких заказов, но они пока особо помочь не могут в силу ограниченности своих мощностей.

В свою очередь, поставщики TSMC к середине следующего года должны поставить ей примерно 30 комплектов профильного оборудования, чтобы компания смогла реализовать свои планы по расширению мощностей, задействованных на упаковке чипов по методу CoWoS. Одновременно TSMC оптимизирует собственные производственные мощности, чтобы быстрее нарастить объёмы обработки чипов на этом направлении. На прошлой неделе TSMC открыла предприятие Fab 6, которое сосредоточится на тестировании и упаковке чипов, включая и метод CoWoS.

Компания NVIDIA применяет компоновку CoWoS при производстве ускорителей A100, A30, A800, H100 и H800, которые сейчас очень востребованы разработчиками систем искусственного интеллекта. В случае с AMD подобная компоновка применяется при производстве ускорителей вычислений Instinct моделей MI100, MI200, MI250X и будущего MI300. С этой точки зрения планы по расширению профильных мощностей TSMC имеют огромное значение для бизнеса NVIDIA, AMD и других крупных клиентов.

Аналитики TrendForce ожидают, что в 2023-м и 2024-м годах на рынке будет наблюдаться повышенный спрос на высокопроизводительную память HBM. На фоне этого эксперты прогнозируют увеличение объёмов выпуска чипов с использованием передовых технологий упаковок на 30–40 %.

Источник изображения: NVIDIA

Взрывной рост популярности приложений генеративного ИИ, таких как чат-боты, привёл к значительным изменениям на серверном рынке в 2023 году. Ключевые западные поставщики услуг в области информационных технологий, такие как Microsoft, Google, AWS, а также китайские компании Baidu и ByteDance вкладывают значительные средства в передовые высокопроизводительные серверы для обучения и оптимизации своих моделей ИИ.

Для повышения эффективности ИИ-серверов и увеличения пропускной способности их подсистем памяти ведущие производители микросхем для ИИ, такие как NVIDIA, AMD и Intel, активно внедряют высокопроизводительную память HBM в свои продукты. В частности, ускорители вычислений NVIDIA A100 и H100 предлагают до 80 Гбайт памяти стандартов HBM2e и HBM3. В своём самом передовом ускорителе Grace Hopper производитель использует стеки памяти HBM с увеличенным на 20 % (до 96 Гбайт) объёмом. Ускорители вычислений MI300 от компании AMD тоже оснащаются памятью HBM3. Те же модели MI300A предлагают 128 Гбайт памяти, а более передовые MI300X — до 192 Гбайт указанной памяти. Ожидается, что компания Google в рамках расширения своей ИИ-инфраструктуры укрепит сотрудничество с Broadcom и концу текущего года начнёт производство чипа-ускорителя искусственного интеллекта TPU, в состав которого также будет входить память HBM.

По прогнозам TrendForce, совокупный объём памяти HBM, использующейся в ускорителях вычислений ИИ, включая NVIDIA H100 и A100, AMD MI200 и MI300, а также Google TPU, составит 290 млн гигабайт, что на 60 % больше, чем годом ранее. В 2024 году этот рост сохранится на уровне 30 или более процентов.

В сфере ИИ и HPC также растёт спрос на передовые технологии упаковки чипов. Преобладающим выбором для производства серверных чипов ИИ является технология Chip on Wafer on Substrate (CoWoS) компании TSMC. Технология упаковки CoWoS включает два этапа: CoW и oS. На этапе CoW между собой объединяются различные логические микросхемы (центральные и графические процессоры, ASIC), а также память HBM. На этапе oS элементы сборки CoW устанавливаются на подложку чипа. Впоследствии формируется SoC, которая интегрируется в серверную материнскую плату, на основе которой создаётся ИИ-платформа с сетевым оборудованием, подсистемой памяти, источниками питания и прочими компонентами.

Эксперты прогнозируют, что на фоне высокого спроса на передовые ИИ-чипы в целом и HBM-память в частности ежемесячный объём выпуска микросхем с использованием технологии упаковки CoWoS компании TSMC к концу 2023 года увеличится до 12 тыс. единиц. С начала 2023 года спрос на CoWoS вырос почти на 50 %, что обусловлено высокой популярностью ускорителей NVIDIA A100 и H100, а также ИИ-серверов на их основе. В то же время на фоне растущего интереса к CoWoS со стороны AMD, Google и других компаний количество свободных линий для производства чипов с CoWoS, вероятно, будет ограничено во второй половине текущего года, считают аналитики. Высокий спрос на CoWoS сохранится как минимум до 2024 года, а поэтому в следующем году ожидается увеличение соответствующих доступных мощностей на 30–40 % с учётом готовности необходимого оборудования.

Если высокий спрос на технологии ИИ сохранится, то вполне вероятно, что та же NVIDIA может рассмотреть возможность использования альтернативных передовых упаковок для производства чипов. Такие, например, предлагают компании Amkor и Samsung.