Пока производители процессоров гоняются за производительностью одного чипа, настоящим узким местом больших ИИ-систем становится связь между ними. Чем больше ускорителей нужно объединить в единый кластер, тем сильнее мешают ограничения обычных электрических соединений. Китайский стартап Biren предложил решение: перейти на оптические линии связи прямо рядом с чипами.
По словам Дина Юньфаня (Ding Yunfan), вице-президента по архитектуре ИИ-фреймворков компании Biren, одного роста производительности отдельных GPU уже недостаточно. Главная задача отрасли — превратить огромные кластеры ускорителей в единую вычислительную систему, которая работает как одно целое. Именно для этого компания разработала новую архитектуру «суперноды» на основе near-packaged optics (NPO). Это архитектура высокоскоростных соединений, при которой оптический модуль размещается на плате максимально близко к вычислительному чипу (CPU, GPU или NPU), но не интегрируется с ним в единый корпус.
В чём проблема обычных соединений
Традиционные медные электрические линии связи подходят к физическому пределу. По оценке Biren, сегодняшние серверные архитектуры на практике упираются примерно в 128 GPU. Дальше растут потери сигнала, задержки и энергопотребление, а масштабировать систему становится всё сложнее.
Оптические соединения позволяют передавать данные значительно быстрее и с меньшими потерями. Технология NPO размещает оптические волокна максимально близко к самим чипам. Это повышает пропускную способность и снижает задержки по сравнению с обычными внешними оптическими кабелями.
Что обещает новая архитектура
Biren заявляет, что её распределённая и развязанная супернода на основе NPO теоретически способна объединить до 1024 ускорителей искусственного интеллекта. Компания также работает над ортогональной аппаратной архитектурой совместно с телекоммуникационным гигантом ZTE, используя пока электрические соединения, и параллельно тестирует прототип оптической системы.
По словам разработчиков, оптический подход в перспективе позволит создавать суперноды с более чем 512 ускорителями. Это важно для обучения моделей с триллионами параметров и для работы сложных ИИ-агентов, которым требуется огромный объём параллельных вычислений.
Конкуренция и перспективы
Biren — не единственная китайская компания, которая пытается решить проблему масштабирования. MetaX, Enflame и Alibaba тоже разрабатывают собственные суперноды, чтобы конкурировать с решениями Nvidia вроде NVL72 и будущей NVL144. MetaX, например, уже показала систему Xijing S600, объединяющую 64 GPU в одной стойке с минимизацией внешних кабелей.
При этом Дин Юньфань подчёркивает: отрасль пока находится на ранней стадии освоения оптических межсоединений. Технологию ещё предстоит доработать и проверить в реальных условиях. Массовое коммерческое внедрение систем на базе NPO компания ожидает примерно к 2028 году.
Оптические связи внутри кластеров — один из ключевых фронтов гонки за масштабированием искусственного интеллекта. Если китайским разработчикам удастся довести технологию до серийного производства, это может заметно изменить баланс сил в инфраструктуре для больших языковых моделей и других тяжёлых ИИ-задач.
