Эра оптической связи на базе искусственного интеллекта: три главных изменения в отрасли для CPO

Co-Packaged Optics (CPO) — это новый тип технологии оптоэлектронной интеграции. CPO основана на передовой технологии упаковки, интегрирующей оптические приемопередающие модули и чипы ASIC (интегральная схема специального назначения) в один пакет для формирования микросистемы со специфическими функциями.

Технология CPO еще больше сокращает длину электрического соединения между оптическим входом сигнала и вычислительными блоками. Это не только увеличивает плотность соединений между оптическими модулями и чипами ASIC, но и обеспечивает более низкое энергопотребление. Это важное техническое решение проблемы высокоскоростной передачи больших объемов данных в будущей обработке больших данных.

По данным Cisco, с 2010 по 2022 год пропускная способность коммутации сетей глобальных центров обработки данных увеличилась в 80 раз. Однако компромиссом стало 8-кратное увеличение энергопотребления коммутационных чипов, 26-кратное увеличение энергопотребления оптических модулей и 25-кратное увеличение энергопотребления SerDes (сериализаторов/десериализаторов) в коммутационных чипах. Поскольку оптические интерфейсы основаны на аналого-цифровой гибридной технологии SerDes, их энергоэффективность развивается медленнее, чем у ASIC. Стоимость за бит и скорость снижения энергопотребления оптических интерфейсов значительно отстают от показателей коммутационных ASIC. Для дальнейшего снижения энергопотребления необходимо сократить расстояние SerDes или уменьшить количество SerDes. Поэтому в архитектурах оптических соединительных систем появились новые технологии, такие как OBO (On-Board Optics), NPO (Near-Packaged Optics) и CPO.

Основные изменения в отрасли CPO в эпоху оптической связи на базе искусственного интеллекта

Ускоренное развитие технологии кремниевой фотоники; непрерывное совершенствование двигателей кремниевой фотоники CPO

Как основная технология CPO, кремниевые фотонные двигатели быстро созревают в эпоху оптической связи ИИ. Кремниевая фотонная технология является идеальной платформой для интеграции фотоники и микроэлектроники. В современном информационном обществе, характеризующемся «электронными вычислениями, оптической передачей», технические узкие места микроэлектроники/оптоэлектроники становятся все более очевидными. Ожидается, что кремниевая оптоэлектроника, совместимая со зрелым микроэлектронным процессом CMOS, станет лучшим решением для интеграции фотоники и микроэлектроники. Как основное решение для текущих оптических двигателей CPO, зрелость кремниевой фотонной технологии, как ожидается, будет способствовать дальнейшему развитию CPO.

(1) С точки зрения применения технологии кремниевой фотоники, технология кремниевой фотоники служит базовой технологией для модулей кремниевой фотоники, CPO и оптических двигателей OIO. В эпоху высоких скоростей ожидается, что расширение оптической связи кремниевой фотоники будет и дальше катализировать развитие технологии двигателей кремниевой фотоники.

Ожидается, что кремниевая фотоника как технология оптической связи в полной мере выиграет от развития AIGC (AI-Generated Content). Ожидается, что технология кремниевой фотоники в центрах обработки данных, будь то на стороне чипа (OIO), стороне устройства (CPO), оптических модулях между устройствами или когерентной оптической связи между центрами обработки данных, получит дальнейшее развитие.

• С точки зрения темпов развития кремниевой фотоники, мировые компании активно содействуют развитию технологии кремниевой фотоники, еще больше совершенствуя цепочку отрасли кремниевой фотоники.

В настоящее время отрасль технологий кремниевой фотоники все еще развивается, и цепочка отраслей постепенно формируется. Теперь она охватывает различные аспекты, включая передовые научно-исследовательские институты, поставщиков инструментов проектирования, поставщиков модулей чипов устройств, литейные заводы, ИТ-компании, производителей системного оборудования и пользователей. Около 2010 года система исследований кремниевой фотоники начала переходить от руководства академическими институтами к руководству производителями. Существует несколько основных моделей развития технологии кремниевой фотоники:

• Поддержка национальных проектов: Например, Соединенные Штаты запустили «Национальную инициативу фотоники» в 2014 году, профинансировав создание интегрированного института фотоники. Впоследствии, в 2015 году, был создан Институт фотоники AIM с инвестициями в размере 610 миллионов долларов для стандартизации интегрированной платформы фотоники, объединяющей различные сегменты отраслевой цепочки. Другие глобальные связанные исследовательские проекты и институты включают исследовательскую программу ЕС по массовому производству кремниевых фотонных модулей Leti.
• Инвестиции ИТ-гигантов: такие компании, как Intel и IBM, занимаются исследованиями в области технологий кремниевой фотоники примерно с 2003 года, осуществляя долгосрочные и существенные инвестиции.
• Небольшие стартапы: изначально финансируемые венчурным капиталом, эти компании впоследствии приобретаются более крупными предприятиями для постоянных инвестиций, ключевая модель развития для кремниевой фотоники. Примерами являются Acacia и SiFotonics.
• Новые стартапы: Некоторые новые стартапы также вносят значительный вклад в развитие кремниевой фотоники.

(3) С точки зрения возможностей отрасли кремниевой фотоники, процветание решений на основе кремниевой фотоники продолжает расти, предоставляя компаниям благоприятную возможность для выхода в отрасль CPO.

25-я Китайская международная оптоэлектронная выставка (CIOE 2024) прошла с 11 по 13 сентября 2024 года в Шэньчжэньском международном выставочном центре. Благодаря ИИ ускорился быстрый переход от оптоэлектронных чипов и оптических устройств/двигателей к оптическим модулям в сторону более высоких скоростей. Одновременно непрерывно развиваются новые технологии, представленные кремниевой фотоникой/CPO/тонкопленочным ниобатом лития/когерентной оптикой. Среди них значительно возросли зрелость и рыночное внимание к технологии кремниевой фотоники, и многочисленные компании инвестируют в технологию кремниевой фотоники.

Ведущие производители активно внедряют CPO, еще больше стимулируя развитие отрасли

Ведущие производители микросхем активно внедряют Технология CPO, непрерывно запуская прототипы CPO на основе кремниевой фотоники. Различные решения CPO были представлены крупными производителями микросхем, включая Intel, Broadcom, Raonvus, AMD, Marvell и Cisco, которые все продемонстрировали прототипы CPO на недавних выставках OFC, достигнув увеличения коммутационной способности и снижения энергопотребления. Такие компании, как Nvidia и TSMC, также продемонстрировали свои планы CPO. Мы считаем, что, с одной стороны, технология CPO на основе двигателей кремниевой фотоники, как основное решение, вероятно, выиграет от развития технологии кремниевой фотоники. С другой стороны, ожидается, что выход ведущих производителей еще больше ускорит совершенствование и развитие цепочки отрасли CPO.

Intel активно исследует и разрабатывает подключаемые оптические модули и микрокольцевые модуляторы. С 2020 года она использует свою платформу процесса кремниевой фотоники для создания систем CPO (Co-Packaged Optics) на основе микрокольцевых модуляторов. На конференции «OFC 2020» Intel представила свой первый прототип CPO, который объединяет кремниевый фотонный двигатель 1.6 Тбит/с с программируемым коммутатором Ethernet 12.8 Тбит/с, а также учитывает управление тепловым режимом в своей архитектурной конструкции. На IEEE ISSCC 2024 года Intel анонсировала последние достижения в своей технологии CPO, достигнув скорости передачи сигнала 4x64 Гбит/с при низком энергопотреблении системы всего 1.3 пл/бит. Компании Intel и Ayar Labs, сотрудничающие на протяжении многих лет, продемонстрировали на конференции Supercomputing 4 внедрение двух чиплетов TeraPHY OIO со скоростью 2023 Тбит/с в ПЛИС Intel Agilex при поддержке двух источников света SuperNova, которые обеспечивают высокоскоростную оптическую связь с 64 оптическими каналами на каждом чиплете.

Broadcom представила свой первый коммутатор CPO на конференции «OFC 2022», объединив чип коммутатора Tomahawk25.6 4 Тбит/с с оптическим двигателем. В 2023 году Broadcom представила Strata Tomahawk XGS5, который имеет коммутационную способность 51.2 Тбит/с, потребляет всего 5.5 Вт энергии и поддерживает 800Gbps скорости передачи данных. На конференции «OFC 2024» компания Broadcom объявила о поставке клиентам первого в отрасли коммутатора CPO Ethernet 51.2 Тбит/с — Bailly. Этот продукт объединяет восемь 6.4-Тбит/с кремниевых фотонных оптических двигателей с чипом коммутатора StrataXGS Tomahawk5, что снижает энергопотребление оптических соединений на 70% и увеличивает эффективность площади кремния в восемь раз.

Ranovus представила архитектуру CPO 2.0 с аналоговым управлением под брендом Odin на конференции «OFC 2021». Разработанная в сотрудничестве с IBM, TE и Senko, эта архитектура обеспечивает снижение энергопотребления и экономию затрат на 40% за счет устранения функций повторной синхронизации и внедрения эффективного по ИС однокристального решения. На «OFC 2023» Ranovus продемонстрировала сочетание кремниевого фотонного двигателя с прямым приводом 800G с чипами FPGA от AMD.

Marvell представила свой первый прототип CPO с пропускной способностью 1.6 Тбит/с на конференции «OFC 2022». На «OFC 2023» Marvell представила коммутационный чип 51.2 Тбит/с.

Cisco продемонстрировала на выставке «OFC 25.6» прототип коммутатора 2023T на основе технологии CPO, оснащенный восемью кремниевыми фотонными модулями 3.2T, каждый из которых оснащен восемью 400G-FR4 кремниевые фотонные чипы, каждый оптический двигатель имеет скорость одного канала 100 Гбит/с.

Nvidia разрабатывает кремниевую фотонику CPO. На конференции «2020 GTC» Nvidia продемонстрировала схему архитектуры системы, которая соединяет графические процессоры и коммутационные чипы через CPO, и активно сотрудничает с такими компаниями, как TSMC и Ayar Labs, для разработки технологии CPO.

TSMC начала сотрудничать с Luxtera в 2017 году для разработки 12-дюймовой платформы процесса кремниевой фотоники на узле 65 нм. Впоследствии TSMC представила усовершенствованную упаковку и запустила платформу COUPE1.0/2.0 с дорожной картой разработки, нацеленной на достижение оптического двигателя 6.4 Тбит/с к 2025 году.

Компания TSMC объявила о запуске платформы COUPE. На Североамериканском технологическом симпозиуме 2024 года компания TSMC представила свою дорожную карту 3D-оптического двигателя, планируя обеспечить оптические соединения до 12.8 Тбит/с для процессоров, производимых TSMC. Учитывая, что медные кабели не могут удовлетворить растущие требования к пропускной способности, кремниевая фотоника готова стать важнейшей технологией для будущих центров обработки данных. Компактный универсальный фотонный двигатель (COUPE) является одним из значительных достижений в области кремниевой фотоники. Эта технология использует технологию упаковки SoIC-X от TSMC, размещая электронные интегральные схемы (EIC) поверх фотонных интегральных схем (PIC) для формирования структуры EIC-on-PIC. Эта структура достигает самого низкого импеданса на интерфейсе чип-чип, что обеспечивает максимальную энергоэффективность. Кроме того, COUPE отличается компактной интегрированной конструкцией, совместимостью с широким диапазоном длин волн, эффективным оптоэлектронным преобразованием, масштабируемостью и гибкостью, что делает его пригодным для различных оптических межсоединений и удовлетворения разнообразных потребностей.

В настоящее время 3D-оптические двигатели TSMC находятся на стадии разработки, с планами постепенного увеличения скорости передачи и приближения оптических соединений к процессорам. План разработки COUPE включает три этапа, каждый из которых направлен на увеличение скорости передачи и снижение энергопотребления:

1. 2025: 3D-оптический двигатель первого поколения от TSMC будет интегрирован в подключаемые устройства OSFP, работающие на скорости 1.6 Тбит/с, что вдвое превышает максимальную скорость текущих решений Ethernet на основе медного кабеля. COUPE первого поколения нацелен на достижение высокой пропускной способности и повышение энергоэффективности — критически важные вопросы в современных центрах обработки данных.
2. 2026: Второе поколение кремниевой фотоники от TSMC планирует интегрировать COUPE в упаковку CoWoS, достигнув совместной упаковки микросхем коммутаторов и оптических устройств. Это позволит реализовать оптические соединения на уровне материнской платы со скоростью до 6.4 Тбит/с. Ожидается, что энергопотребление второго поколения составит менее 50% от первого поколения, а задержка, как ожидается, составит менее 10% от первого поколения.
3. Третье поколение: Цель состоит в том, чтобы интегрировать COUPE в процессорную упаковку, при этом COUPE будет работать на CoWoS Interposer, нацелившись на скорость передачи данных 12.8 Тбит/с, приближая оптические соединения к процессору. Этот этап все еще находится в исследовательской фазе без четкой даты выпуска, но TSMC стремится еще больше снизить энергопотребление и задержку.

Эра искусственного интеллекта и рост спроса на высокоскоростные коммутаторы

Эра ИИ стимулирует спрос на высокоскоростные коммутаторы, подчеркивая преимущества решений CPO. Поскольку оптические соединения все больше проникают в стойки и вычислительные системы, коммутаторы — центральные сетевые устройства в оптических сетях связи — развиваются в сторону высокой скорости, множества портов и низкого энергопотребления, чтобы соответствовать растущим требованиям кластеров ИИ. Эра ИИ представляет собой значительную рыночную возможность для коммутаторов решений CPO.

Развитие пропускной способности ИИ ускоряет эволюцию скоростей соединений. С 2019 года глобальная индустрия центров обработки данных вышла на центр вычислительной мощности. По данным Cisco, глобальная пропускная способность коммутации сетей центров обработки данных увеличилась в 80 раз с 2010 по 2022 год. Быстрое развитие AIGC (контента, генерируемого искусственным интеллектом) еще больше стимулировало модернизацию сетевой архитектуры и итерации ускорения графических процессоров, увеличивая спрос на более высокую пропускную способность между устройствами. Поскольку 2023 год ознаменовал собой первый год ИИ, скорости соединений удвоились вдвое за два года. Эволюция микросхем коммутаторов центров обработки данных в настоящее время находится в фазе удвоения емкости каждые два года, и ожидается, что к 102.4 году емкость достигнет 2025 Т, что соответствует оптическим портам 1.6 Т.