Легендарный разработчик процессорных архитектур Джим Келлер (Jim Keller), создавший немало коммерчески успешных чипов Apple, Intel, AMD и Tesla, в последнее время сосредоточен на создании ускорителей вычислений в штате стартапа Tenstorrent. Именитый инженер убеждён, что на этом месте работы ему удастся создать ускорители систем искусственного интеллекта, которые будут обладать большей гибкостью конфигурирования и меньшей стоимостью по сравнению с решениями Nvidia.
Источник изображения: Tenstorrent
Келлер поделился некоторыми своими соображениями с представителями ресурса Nikkei Asian Review. «Существует немало сегментов рынка, которые недостаточно охвачены Nvidia», — оптимистично заявил Джим Келлер, выступающий в роли генерального директора американского стартапа Tenstorrent на данном этапе своей карьеры. По мере распространения функции ИИ в сегменте смартфонов, облачных сервисов и даже электромобилей, как он пояснил, многие клиенты ищут более доступные альтернативы ускорителям Nvidia. Не каждая компания, по его словам, готова выложить $20 000 за каждый ускоритель этой марки.
Второе поколение ускорителей Tenstorrent, к созданию которых Келлер приложил руку, начнёт поставляться на рынок к концу текущего года. По словам представителей основанной в 2016 году компании, в некоторых сферах применения решения Tenstorrent превосходят ускорители Nvidia по энергетической эффективности и быстродействию. Готовые системы семейства Galaxy оказываются в три раза эффективнее с точки зрения энергопотребления, и при этом на треть дешевле, чем Nvidia DGX.
Снизить стоимость своих ускорителей и их энергопотребление, помимо прочего, Tenstorrent может благодаря отказу от использования дорогой памяти HBM. Компания Tenstorrent изначально разрабатывала архитектуру своих ускорителей таким образом, чтобы сократить время передачи информации между чипом и микросхемой памяти без использования дорогостоящей HBM. Такой подход позволит заменить как HBM, так и GPU в определённых сферах применения ускорителей искусственного интеллекта. По словам Келлера, многие компании ищут более доступные альтернативы HBM, но чтобы пошатнуть нынешние позиции этого типа памяти на рынке, потребуются годы. Глава Tenstorrent считает, что в определённых сегментах рынка появится множество игроков, способных удовлетворить спрос лучше Nvidia.
Ускорители Tenstorrent используют сотни крохотных процессорных ядер, которые можно конфигурировать довольно гибко с точки зрения решаемых вычислительных задач. По этой причине подход компании к созданию ускорителей позволит ей адаптировать свои разработки под нужды самых разных сегментов рынка. Ядра этих ускорителей, по словам разработчика, способны самостоятельно «думать» и выбирать, какие данные обрабатывать в первую очередь, и как повысить эффективность вычислений. Одни и те же процессорные ядра могут применяться и в смартфонах, и в серверных системах — разница преимущественно будет заключаться в их количестве. Келлер затрудняется определить, какая сфера применения искусственного интеллекта будет более востребована, по этой причине Tenstorrent создаёт решения, которые подойдут под широкий спектр задач.