Современный искусственный интеллект упирается не только в возможности алгоритмов. Чем крупнее становятся нейросети, тем больше вычислительных ресурсов им требуется, а вместе с ними растут энергопотребление, требования к пропускной способности и стоимость дата-центров.
Теперь компания Q/C Technologies из Сан-Франциско совместно с Центром интегрированных нанотехнологий (Center for Integrated Nanotechnologies, CINT) при Национальной лаборатории Сандия Министерства энергетики США приступает к разработке оптического процессора, который будет выполнять математические операции с помощью света.
Идея состоит в том, чтобы часть вычислений, которые сегодня выполняют электронные схемы графических процессоров, перенести в оптическую область. Проект пока находится на исследовательской стадии, но в перспективе речь идет о процессорах для искусственного интеллекта, способных работать с гораздо меньшими энергетическими и коммуникационными затратами.
Зачем вообще заменять электроны светом
Современные GPU отлично подходят для искусственного интеллекта. Их архитектура позволяет одновременно выполнять огромное количество однотипных математических операций, необходимых для работы нейросетей.
Но масштабирование такой инфраструктуры постепенно становится все сложнее. Растет не только количество вычислений — приходится передавать все больше данных между памятью, процессорами и другими компонентами системы. На этом фоне электроэнергия, необходимая для питания и охлаждения вычислительных центров, становится одним из ключевых ограничений.
Свет в этом отношении обладает интересными свойствами. Фотонные системы могут передавать большие объемы информации с высокой скоростью, а некоторые математические операции можно выполнять непосредственно благодаря физическим свойствам световых волн.
Именно этот принцип лежит в основе оптических вычислений: вместо того чтобы сначала преобразовать данные в электрические сигналы, обработать их транзисторами, а затем снова преобразовать результат, часть вычислений выполняется непосредственно при прохождении света через оптическую систему.
Как работает вычисление светом
В проекте Q/C Technologies планируется использовать интерференцию света.
Интерференция — это явление, при котором световые волны, встречаясь друг с другом, усиливаются или ослабляются в зависимости от их фазы. В оптическом процессоре этим эффектом можно управляемым образом выполнять математические операции.
Если представить традиционный процессор как систему, где вычисления выполняются последовательностью операций над электрическими сигналами, то фотонный процессор использует саму физику распространения света в качестве вычислительного инструмента.
Особенно интересно это для операций линейной алгебры — например, умножения матриц на векторы. Именно такие операции постоянно выполняются внутри нейронных сетей.
Исследователи Sandia уже продемонстрировали фотонный матрично-векторный умножитель, использующий когерентный лазерный свет и оптические линии задержки. Такой подход позволяет выполнять вычисления с временным мультиплексированием — то есть повторно использовать одни и те же физические компоненты для обработки нескольких последовательностей данных.
Почему речь идет прежде всего об ИИ-инференсе
Q/C Technologies ориентируется в первую очередь на инференс — этап, когда уже обученная нейросеть получает новые данные и выдает результат.
Например, обучение модели происходит заранее на большом вычислительном кластере. После этого готовая система должна отвечать на запросы пользователей, распознавать изображения, анализировать документы или генерировать ответы.
Именно здесь особенно важна эффективность. Если модель обслуживает миллионы запросов, даже небольшое снижение энергозатрат на одну операцию превращается в существенную экономию на уровне всего дата-центра.
Поэтому новый оптический процессор не обязательно должен заменить GPU во всех задачах. Его задача гораздо конкретнее: взять наиболее подходящие для фотонных вычислений операции и выполнять их быстрее или эффективнее, оставляя остальные функции традиционной электронике.
Главные препятствия еще впереди
Звучит многообещающе, но до готового оптического процессора еще очень далеко.
Исследователям предстоит решить сразу несколько фундаментальных инженерных проблем. Одна из них — выполнение нелинейных операций. Нейронные сети состоят не только из матричных вычислений: в них используются функции активации и другие операции, которые сложнее реализовать непосредственно в оптической системе.
Еще одна проблема — память.
Свет прекрасно подходит для передачи информации и выполнения определенных вычислений, но создание удобной и компактной оптической памяти остается сложной задачей. Практический процессор должен не только считать, но и хранить промежуточные результаты, обращаться к ним и взаимодействовать с другими компонентами компьютера.
Кроме того, возникает вопрос точности. Аналоговые физические вычисления неизбежно сталкиваются с шумами и погрешностями, поэтому необходимо обеспечить достаточно высокую точность результата.
Наконец, свет в реальных оптических структурах испытывает потери. А сами фотонные компоненты придется каким-то образом интегрировать с обычной электронной схемотехникой.
Именно эти вопросы Q/C Technologies и CINT намерены изучать на следующем этапе проекта.
Что даст сотрудничество с Sandia
Центр интегрированных нанотехнологий предоставляет проекту доступ к лабораторной базе и специалистам в области нанонауки и нанофотоники.
Это особенно важно потому, что будущий оптический процессор будет состоять не из одного «волшебного» компонента. Потребуется целая система миниатюрных фотонных элементов, способных работать совместно.
Задача исследователей — определить, какие именно нанофотонные устройства и операции стоит использовать в архитектуре будущего оптического вычислительного блока (Optical Processing Unit, OPU) и каким образом объединить их в масштабируемую систему.
По словам исполнительного председателя Q/C Technologies Джошуа Сильвермана (Joshua Silverman), сотрудничество с CINT должно помочь компании развить собственную платформу оптических вычислений. Технический директор компании Йоссеф Эрлихман (Yossef Ehrlichman) также отмечает, что задача проекта — определить путь от отдельных экспериментальных фотонных компонентов к полноценной архитектуре OPU.
Каким может стать оптический процессор
Долгосрочная цель Q/C Technologies — создать процессоры с высокой тактовой частотой и пропускной способностью, которые при этом потребляют меньше энергии, чем традиционные вычислительные архитектуры.
Важно подчеркнуть: пока это именно цели разработки, а не характеристики уже существующего готового процессора. Компания еще не продемонстрировала коммерческий OPU, который достигал бы заявленных параметров.
Тем не менее у направления уже есть экспериментальная база. Sandia сообщала о разработке фотонных нейронных сетей, использующих когерентный лазерный свет, а также о применении фотонного матрично-векторного умножителя для таких задач, как классификация изображений и подавление шумов. В проведенных экспериментах точность была сопоставима с цифровыми системами.
Q/C Technologies тем временем создала в Сан-Франциско собственную фотонную лабораторию площадью около 446 квадратных метров. Она предназначена для исследований в области фотоники и вычислительных систем и должна стать базой для дальнейшей разработки OPU.
Станет ли свет альтернативой GPU?
Пока на этот вопрос нет однозначного ответа.
Оптические вычисления существуют уже достаточно давно, однако до массового применения им мешает целый набор технических ограничений. Свет позволяет очень эффективно выполнять определенные операции, но полноценный компьютер должен уметь делать гораздо больше.
Поэтому наиболее реалистичным сценарием на ближайшую перспективу выглядит не полная замена электронных процессоров, а гибридная архитектура. В ней свет будет выполнять наиболее подходящие математические операции, а обычная электроника возьмет на себя управление, хранение данных и задачи, для которых фотоника пока неудобна.
Если исследователям удастся объединить эти два подхода без чрезмерных потерь при преобразовании электрических сигналов в оптические и обратно, фотонные процессоры могут стать важным элементом будущей ИИ-инфраструктуры.
Пока же проект Q/C Technologies и Sandia находится в самом начале пути. Но направление выглядит логично: по мере роста нейросетей проблема вычислительной мощности все сильнее превращается в проблему энергии и передачи данных. И возможно, одним из способов ее решения станет переход от движения электронов к движению фотонов.
