Последние двадцать лет вычисления и связь переходят на оптические интерфейсы. Это уже произошло на магистральных линиях связи, но всё ещё буксует в пределах центров по обработке данных и на уровне межчиповых и межкомпонентных связей в компьютерах. В идеале сигнал должен сразу исходить из процессора в виде оптических импульсов и дальше направляться либо в чип по соседству, либо в соседние стойки, зал и даже за его пределы. IBM выбрала этот путь.

Слот CPO для установки на чип внешнего оптического «кабеля». Источник изображений: IBM

Оптика выгодно отличается от меди (токопроводящих соединений) малым весом, дешевизной, низкими помехами (наводками), высокой скоростью передачи, малым потреблением энергии и, в целом, позволяет повысить пропускную способность без увеличения энергопотребления. Возможность использования оптических линий связи уже заложена во все последние стандарты Ethernet, а также в стандарты PCIe. Ближе всех к интеграции оптических линий в процессоры (ускорители) в своё время подошла компания Intel с платформой Light Peak. И хотя Intel давно свернула разработку этой платформы, идея не умерла и сегодня находит продолжение в новом оптическом интерфейсе Intel OCI (Open Compute Project Interconnect Link).

Сегодня настала очередь IBM сообщить о прорыве на направлении интегрированных в процессоры оптических интерфейсов. Как и Intel, интегрированная оптика IBM берёт своё начало в разработках по кремниевой фотонике, которые обе компании начали более 20 лет назад. Новый интегрированный интерфейс IBM называется co-packaged optics (CPO). Дословно это переводится как «соупакованная» или «комбинированная» оптика — дополнительный канал передачи данных. Он не заменяет проводную разводку на материнской плате и кабели внутри компьютера и между стойками, а дополняет их высокоскоростным и энергоэффективным интерфейсом.

В качестве проводника света для интерфейса CPO выбрано недорогое полимерное оптоволокно PWG (polymer optical waveguide). Компания представила рабочий прототип интерфейса (платформы) с оптоволокном PWG толщиной 50 мкм и готова масштабировать его до оптоволокна менее 20 мкм толщиной. Спецификации интерфейса CPO позволяют организовать обмен данными между чипами, платами и стойками, или, проще говоря, работать на расстоянии от нескольких сантиметров до сотен метров.

Если предложенное IBM техническое решение найдёт применение и понимание в отрасли, это приведёт к снижению затрат на масштабирование платформ генеративного искусственного интеллекта благодаря более чем пятикратному снижению энергопотребления по сравнению с электрическими соединениями среднего класса, одновременно увеличив длину соединительных кабелей в центрах обработки данных с одного до сотен метров.

Также можно ожидать ускорения обучения моделей искусственного интеллекта, что позволит разработчикам обучать большие языковые модели (LLM) в пять раз быстрее, чем при использовании обычных проводных интерфейсов. Технология CPO может сократить время, необходимое для обучения стандартной LLM, с трёх месяцев до трёх недель. Это также обеспечит прирост производительности за счёт использования более крупных моделей и большего количества графических процессоров, что сократит простой оборудования.

Наконец, технология CPO значительно повысит энергоэффективность центров обработки данных, сэкономив энергию, эквивалентную годовому потреблению 5000 домов в США, на одно обучение модели искусственного интеллекта.

«Поскольку генеративный ИИ требует всё больше энергии и вычислительных ресурсов, центры обработки данных должны развиваться, а комбинированная оптика может сделать их более перспективными, — сказал Дарио Хиль (Dario Gil), старший вице-президент и директор по исследованиям IBM. — Благодаря этому прорыву чипы завтрашнего дня будут передавать данные так же, как волоконно-оптические кабели передают информацию в центры обработки данных и из них, открывая новую эру более быстрых и устойчивых коммуникаций, способных справляться с рабочими нагрузками искусственного интеллекта будущего».

Подробную информацию о новом интерфейсе исследователи IBM изложили в статье, опубликованной на сайте arXiv.org. Новые оптические структуры с высокой плотностью пропускной способности, в сочетании с передачей нескольких длин волн по одному оптическому каналу, потенциально увеличат пропускную способность между чипами в 80 раз по сравнению с электрическими соединениями.

Тестирование оптических интерфейсов IBM

Экспериментальная платформа прошла все необходимые стресс-тесты для производства. Компоненты подвергались воздействию высокой влажности и температур в диапазоне от −40 °C до +125 °C, а также испытаниям на механическую прочность, чтобы подтвердить, что оптические соединения могут изгибаться без разрушения или потери данных. Кроме того, исследователи продемонстрировали технологию PWG с шагом 18 мкм. Объединение четырёх блоков PWG с таким шагом позволит подключать до 128 каналов. В конечном итоге это обеспечит плотность передачи до 10 Тбит/мм².

Группа из учёных Массачусетского технологического института и их зарубежных коллег создала, как они утверждают, первый полностью фотонный процессор для приложений искусственного интеллекта. Фотонный процессор работает не хуже аналогов на кремниевых транзисторах, но проводит вычисления с намного меньшим потреблением энергии. Это особенно важно для создания «думающей» периферии — лидаров, камер, устройств связи и другого, к чему теперь открыта прямая дорога.

Источник изображения: Sampson Wilcox, Research Laboratory of Electronics

Основная проблема при создании полностью фотонного чипа для ИИ заключается в том, что свет хорошо справляется с линейными вычислениями, тогда как нелинейные вычисления производятся с существенными затратами энергии. Для проведения последних необходимы специальные блоки, ведь фотоны реагируют друг с другом только в особых условиях. Поэтому прежде линейные операции, например, умножение матриц, проводились фотонным блоком, а для нелинейных вычислений световой сигнал переводился в форму электрического импульса и дальше обрабатывался по старинке — обычным процессором из кремниевых транзисторов.

Учёные из MIT поставили перед собой цель создать единый процессор, у которого на вход подавался бы световой сигнал и световой же сигнал был бы на выходе без использования кремниевых сопроцессоров. По их словам, используя предыдущие работы и находки зарубежных коллег, они добились поставленной задачи.

Разработанное исследователями оптическое устройство смогло выполнить ключевые вычисления для задачи классификации с помощью машинного обучения менее чем за половину наносекунды, при этом достигнув точности более 92 % — это производительность, которая находится на одном уровне с традиционным оборудованием. Созданный чип состоит из взаимосвязанных модулей, образующих оптическую нейронную сеть и изготовлен с использованием коммерческих литографических техпроцессов, что может обеспечить масштабирование технологии и её интеграцию в современную электронику.

Учёные обошли проблему с нелинейными фотонными вычислениями интересным образом. Они разработали интегрированный в оптический процессор блок NOFU — нелинейно-оптический функциональный блок, который позволил задействовать электронные цепи вместе с оптическими, но без перехода к внешним операциям. По-видимому, блок NOFU был выбран как компромисс между чисто фотонными нелинейными схемами и классическими, электронными.

Вначале система кодирует параметры глубокой нейронной сети в световых импульсах. Затем массив программируемых светоделителей выполняет матричное умножение входных данных. Потом данные передаются в программируемый слой NOFU, где реализуются нелинейные функции, передавая световые сигналы на фотодиоды. Последние, в свою очередь, транслируют световой сигнал в электрические импульсы. Поскольку этот этап не требует внешнего усиления, блоки NOFU потребляют очень мало энергии.

«Мы остаемся в оптической области всё время, до конца, когда хотим считать ответ. Это позволяет нам добиться сверхнизкой задержки», — говорят авторы исследования.

Дальность захвата образцов классическим оптическим пинцетом ограничена микрометрами. Учёные из Массачусетского технологического института смогли на порядки увеличить это значение, что навсегда изменит работу с биоматериалами. Более того, устройство с лучом захвата устроено на чипе, а это путь к массовому и недорогому производству портативных биолабораторий.

Источник изображения: MIT

«Эта работа открывает новые возможности для оптических пинцетов на основе чипов, позволяя захватывать и выделять клетки на гораздо больших расстояниях, чем демонстрировалось ранее. Интересно подумать о различных приложениях, которые могут быть реализованы с помощью этой технологии», — сказала Елена Нотарос (Jelena Notaros), профессор MIT в области электротехники и компьютерных наук (EECS).

Благодаря новой разработке дальность действия «притягивающего луча» возросла до 5 мм. Кажется, какая малость? Но по сравнению с микрометрами — это колоссальный прогресс и улучшение. Раньше для манипулирования биоматериалами — фрагментами ДНК или клетками (на большие объекты оптические пинцеты не рассчитаны) — образцы требовалось выкладывать на предметные стёкла, что нарушало стерильность и грозило риском загрязнения. Устройство инженеров MIT бьёт так далеко, что способно работать с образцами не вынимая их из стерильных контейнеров. Надо ли говорить, что это ускорит работу и исследования? Ведь больше не нужно тратить время на мероприятия по обеспечению стерильности.

Добиться настолько выдающегося результата исследователи смогли, когда представили оптический излучатель на чипе в виде фазированной оптической решётки. Это обеспечило точную фокусировку и усиление луча на большей дальности, чем в случае намного более громоздких и дорогих традиционных лазерных оптических пинцетов.

«С помощью кремниевой фотоники мы можем взять эту большую, типично лабораторную систему [оптического пинцета] и интегрировать её в чип. Это отличное решение для биологов, поскольку оно предоставляет им функции оптического улавливания и выщипывания [биоматериалов] без дополнительных затрат на сложную установку объёмной оптики», — поясняют авторы работы, опубликованной в журнале Nature Communications.

Китай заявил о значительном прорыве в области кремниевой фотоники для производства полупроводников. Государственная лаборатория JFS в Ухане, являющаяся национальным центром исследований в области фотоники, впервые успешно соединила лазерный источник света с кремниевым чипом. Это достижение, по мнению китайских СМИ, может помочь стране преодолеть существующие технические барьеры в проектировании микросхем и достичь самодостаточности в условиях санкций США.

Источник изображения: Copilot

JFS, основанная в 2021 году и получившая государственную поддержку в размере 8,2 млрд юаней ($1,2 млрд), является одним из ключевых институтов Китая, занимающихся разработкой передовых технологий. Как отмечают в JFS, новая технология использует для передачи данных оптические сигналы вместо электрических, что позволяет преодолеть ограничения традиционных чипов, связанных с физическими пределами передачи электрических сигналов и создавать более быстрые и мощные чипов для обработки больших данных, графики и искусственного интеллекта.

Интерес к кремниевой фотонике проявляют не только в Китае. Крупнейшие игроки мировой полупроводниковой индустрии, такие как TSMC, Nvidia, Intel и Huawei, также инвестируют значительные средства в развитие этой технологии. По оценкам SEMI, международной ассоциации полупроводниковой промышленности, мировой рынок кремниевых фотонных чипов к 2030 году достигнет $7,86 млрд по сравнению с $1,26 млрд в 2022 году. Вице-президент TSMC Дуглас Юй Чен-хуа (Douglas Yu Chen-hua) заявил в прошлом году, что «хорошая система интеграции кремниевой фотоники может решить критические проблемы энергоэффективности и вычислительной мощности в эпоху ИИ, что приведет к смене парадигмы в отрасли».

Отметим, что для Китая кремниевая фотоника представляет особую ценность. В отличие от традиционных чипов, для производства фотонных чипов не требуются высокотехнологичные установки экстремальной ультрафиолетовой литографии (EUV), на экспорт которых в Китай наложены ограничения США. «Кремниевые фотонные чипы могут производиться внутри страны с использованием относительно зрелых материалов и оборудования», — заявил в 2022 году Суй Цзюнь (Sui Jun), президент пекинского стартапа Sintone, занимающегося разработкой полупроводников.

Эксперты считают, что кремниевая фотоника может стать «новым фронтом в технологическом соперничестве США и Китая». «Хотя экспортный контроль со стороны США, вероятно, сдерживает возможности Китая в производстве традиционных чипов, это также может непреднамеренно стимулировать Китай к выделению большего количества ресурсов на новые технологии, которые будут играть важную роль в полупроводниках следующего поколения», — написал Мэтью Рейнольдс (Matthew Reynolds), бывший сотрудник Центра стратегических и международных исследований (CSIS).

Компания Intel совершила прорыв в технологии интегрированной фотоники, представив первый полностью интегрированный чиплет оптического вычислительного соединения (OCI), совмещённый с процессором Intel и работающий с большими данными в реальном времени.

Источник изображения: Intec.com

Представленный на конференции по оптоволоконной связи (OFC) 2024, чиплет OCI предназначен для поддержки 64 каналов передачи данных на скорости 32 Гбит/с в каждом направлении, используя оптическое волокно длиной до 100 метров. Этот инновационный продукт отвечает растущим потребностям инфраструктуры AI в повышении пропускной способности, снижении энергопотребления и увеличении дальности связи. OCI открывает новые возможности для масштабирования архитектуры вычислительных кластеров, обеспечивая согласованное расширение памяти и более эффективное использование ресурсов.

По мере глобального распространения приложений на основе ИИ и разработки больших языковых моделей (LLM) необходимость в более мощных вычислениях машинного обучения (ML) становится всё более насущной. Чтобы идти в ногу с этими потребностями, требуется экспоненциальный рост пропускной способности оптического ввода-вывода (I/O) для инфраструктуры ИИ, с помощью которого будут поддерживаться масштабные кластеры процессоров в высокопроизводительных вычислениях (HPC).

Традиционные электрические интерфейсы ввода-вывода хотя и обеспечивают высокую плотность пропускной способности и низкое энергопотребление, ограничены расстоянием. Оптические трансиверные модули, используемые в центрах обработки данных и ранних ИИ-кластерах, могут обеспечить больший радиус действия, но при этом увеличивается стоимость и потребление энергии, что неэффективно для масштабирования рабочих нагрузок ИИ.

Оптический интерфейс ввода-вывода, интегрированный непосредственно в CPU и GPU, предлагает новое решение. При этом OCI использует проверенную на практике технологию кремниевой фотоники Intel и объединяет интегральную схему кремниевой фотоники (PIC), включающую встроенные лазеры и оптические усилители. Чипсет OCI, продемонстрированный на OFC, был совмещён с процессором Intel, но его также можно интегрировать с графическими процессорами, IPU и другими системами на кристалле (SoC) следующего поколения, обеспечивая двустороннюю передачу данных на скорости до 4 Тбит/с и совместимую с интерфейсом периферийных компонентов PCIe Gen5.

Чиплет, продемонстрированный Intel, подтвердил свою эффективность, поддерживая 64 канала передачи данных по 32 Гбит/с в каждом направлении на расстояние до 100 метров (хотя практическое применение может быть ограничено десятками метров из-за задержки времени прохождения), используя восемь пар волокон, каждая из которых несёт восемь плотных мультиплексоров с разделением по длине волны.

Новый чиплет Intel OCI — это ещё один шаг вперёд в области высокоскоростной передачи данных, который доказывает, что по мере развития инфраструктуры искусственного интеллекта компания остаётся в авангарде, внедряя инновации.

Корпорация Intel давно занимается проблемой сращивания полупроводниковых решений для передачи информации с оптоволоконными каналами, эта сфера получила обозначение «кремниевой фотоники». Японское правительство готово субсидировать совместные изыскания оператора связи NTT, компаний Intel и SK hynix в данной сфере, выделяя на это $305 млн бюджетных средств.

Источник изображения: Intel

Агентство Nikkei сообщило о принятом властями Японии решении сегодня. Кремниевая фотоника обещает не только повысить скорость передачи информации, но снизить энергозатраты на обеспечение этого процесса. Министерство экономики, торговли и промышленности Японии выражает надежду, что за счёт прорыва на этом направлении страна сможет получить преимущество на международном рынке и возродить свою полупроводниковую промышленность. В свете бурного развития систем искусственного интеллекта спрос на технологии скоростной передачи информации будет только расти.

Кремниевая фотоника позволяет уйти от лишних преобразований оптических сигналов в электрические, тем самым повышая скорость обмена данными и снижая энергопотребление. Участие SK hynix в этих разработках определяется её специализацией на разработке микросхем памяти, сейчас эта южнокорейская компания до сих пор остаётся главным поставщиком памяти типа HBM для ускорителей вычислений NVIDIA, которые доминируют на рынке.

К 2027 году перечисленные компании надеются вывести на рынок технологию, которая позволяет обрабатывать оптические сигналы на уровне кремниевых компонентов, а также технологию производства памяти, способной работать на терабитных скоростях. Intel, уже имеющая определённый опыт в этой сфере, будет специализироваться на приближении данных решений к условиям массового производства, хотя от своего профильного бизнеса она не так давно избавилась. В части энергопотребления стоит задача снизить его на 30–40 % по сравнению с традиционными полупроводниковыми компонентами. Японская NTT свои эксперименты в области кремниевой фотоники проводит с 2019 года и уже добилась определённых успехов на этапе изысканий, а также располагает экспериментальной площадкой для работы с прототипами соответствующих устройств.

Кремниевая фотоника обещает снизить потребление и увеличить производительность компьютеров. Чтобы отказаться от потока электронов и перейти на фотоны, необходимо тем или иным способом гармонизировать взаимодействие фотонов с материалами чипов и разработать множество новых способов управления ими. Но для начала необходимо увеличить плотность энергии «света», для чего его замедляют с минимальными потерями, что удалось учёным из Китая.

Источник изображения: Xinhua

В одном из последних номеров журнала Nano Letters группа исследователей из Шэньчжэньского института передовых технологий при Академии наук Китая сообщила, что она создала метаматериал, который смог замедлить свет в 10 000 раз с потерями на уровне 20 % по сравнению с предыдущими попытками. Это означает, что свет по чипу (каналу) распространяется с меньшим поглощением и низким рассеиванием. Подобное в разы увеличивает энергоэффективность и снижает тепловыделение, тогда как рост плотности энергии в связи с эффектом замедления света даёт в руки осязаемые рычаги по контролю над световым сигналом — с этим уже можно работать в прикладных задачах, говорят исследователи.

Добиться такого результата учёные смогли с помощью особым образом структурированной поверхности. На ней в виде периодической решётчатой структуры были последовательно размещены 100-нм кремниевые диски. Они играли роль резонаторов, которые меняли амплитуды и фазы входного сигнала. При этом важным свойством метаматериала стала способность «выталкивать» фотоны изнутри материала к его поверхности, за счёт чего поглощение почти отсутствовало. Кроме того, рассеянные в процессе одиночные фотоны снова направлялись в нужном русле с помощью соседних структур, что также снижало потери и позволяло полнее использовать входящий свет (сигнал).

«Используя технологию метаповерхности, фотонные чипы могут быть тонкими, как наклейки или строительные блоки, которые позволят функционально укладывать их друг на друга, — говорят разработчики. — Используя эффект замедленного света, производительность может быть значительно улучшена».

Компании TSMC, Broadcom и NVIDIA создали альянс для совместной работы в области кремниевой фотоники. Этот альянс направлен на продвижение технологий ИИ и компьютерной техники нового поколения, обещая революцию в области энергоэффективности и вычислительной мощности. Первые продукты ожидаются уже к 2025 году.

Источник изображения: geralt / Pixabay

Направление кремниевой фотоники уже привлекло внимание таких компаний, как IBM и Intel, а также различных научных институтов, активно занимающихся исследованиями и разработками в данной области. Новый альянс, в свою очередь, сосредоточит усилия на аппаратном обеспечении для ИИ.

Центральной фигурой нового проекта станет TSMC, на плечи которой ляжет основная нагрузка по исследованиям и разработке. Компания планирует вовлечь около 200 своих сотрудников для работы над интеграцией технологий кремниевой фотоники в решения для высокопроизводительных вычислений (HPC). Основная цель — создание оптических интерконнектов на кремниевой основе, способных обеспечить более высокие скорости передачи данных между микросхемами и внутри них. К числу преимуществ нового подхода можно отнести увеличение дальности передачи данных и снижение энергопотребления.

Вице-президент TSMC, Ю Чжэньхуа (Yu Zhenhua), подчеркнул, что новый подход на основе кремниевой фотоники позволит решить две ключевые проблемы: энергоэффективность и вычислительную мощь ИИ. «Мы можем быть на пороге новой эры», — заявил он, предвещая кардинальные изменения в отрасли. Компания планирует расширить производственные мощности по выпуску передовых микросхем к концу IV квартала 2024 года, чтобы удовлетворить растущий спрос со стороны клиентов.

Создание альянса TSMC, Broadcom и NVIDIA открывает новую страницу в развитии технологий кремниевой фотоники. Перед нами, возможно, начало новой эры в сфере полупроводников, где скорость передачи данных и энергоэффективность станут определяющими факторами прогресса.

Кремниевая фотоника является отраслью промышленности, предполагающей объединение полупроводниковых вычислительных компонентов с оптическими каналами передачи информации. Представители TSMC взяли на себя смелость утверждать, что в условиях роста потребности в скоростных интерфейсах важность кремниевой фотоники будет только усиливаться, а потому контрактный производитель готов проводить профильные исследования и разработки.

Источник изображения: Nikkei Asian Review, Cheng Ting-Fang

По словам вице-президента TSMC Дугласа И (Douglas Yi), на которые ссылается Nikkei Asian Review, «обеспечив систему качественной интеграции кремниевой фотоники, мы могли бы решить сразу две проблемы, стоящие перед искусственным интеллектом — повысить энергоэффективность без ущерба для производительности вычислений». Эти заявления представитель TSMC сделал на открытии мероприятия SEMICON на Тайване, проходящего на этой неделе.

Большие объёмы данных, которые необходимо передавать при обучении языковых моделей ИИ, было бы эффективнее направлять по оптическим каналам. Это позволяет как увеличить расстояние передачи информации, так и снизить задержки, не говоря уже о снижении энергопотребления. Intel, Cisco и IBM уже давно экспериментируют в сфере кремниевой фотоники, рассчитывая применить свои разработки в суперкомпьютерах и сопутствующей инфраструктуре. NVIDIA ради достижения подобных целей купила израильскую компанию Mellanox. Китайская Huawei Technologies изначально пыталась инвестировать в эту сферу посредством строительства исследовательского центра в Великобритании, но теперь сложно судить, как такую активность можно будет продолжать в условиях западных санкций.

TSMC, по словам руководства компании, пытается сочетать разработку кремниевой фотоники с передовыми методами компоновки вычислительных решений. Пока подобные эксперименты не привели к созданию решений, готовых к массовому производству. Занимающаяся тестированием и упаковкой чипов компания ASE Technology Holding разделяет мнение о том, что поиски новых методов интеграции кремниевой фотоники через технологии упаковки являются ключом к созданию нового поколения вычислительных комплексов. По оценкам ассоциации SEMI, мировой рынок кремниевой фотоники к концу десятилетия достигнет ёмкости в $7,86 млрд, а в период с 2022 года он будет в среднем ежегодно расти на 25,7 %.