Рисунок 1. Основные преимущества пакетной оптики с плотным мультиплексированием по длине волны (DWDMCPO). (Изображение предоставлено: Scintil Photonics)
В области проектирования центров обработки данных есть поговорка: «Используйте медные кабели везде, где это возможно, и прибегайте к оптическим технологиям только тогда, когда оптоволокно абсолютно необходимо». В течение многих лет прагматичный подход отрасли заключался в том, чтобы отдавать предпочтение дешевым-медным кабелям до тех пор, пока законы физики не вынудят провести технологическую модернизацию. Но сегодня, когда вычислительные кластеры искусственного интеллекта (ИИ) приближаются к масштабам «фабрик вычислительной мощности», развертывающих миллионы графических процессоров (GPU), а экономическая-эффективность центров обработки данных сталкивается с огромным давлением, люди обнаруживают, что этот технологический переломный момент «без-оптики-альтернативы» наступил гораздо раньше, чем кто-либо ожидал.
Сетевые архитекторы уже давно знают, что медные кабели имеют значительные ограничения на дальность передачи при высоких-скоростных сценариях, но лишь немногие из них анализировали основные причины с фундаментальной физической точки зрения. Несмотря на то, что сетевые инженеры своим опытом довели пределы дальности передачи и пропускной способности медного кабеля до предела, ограничения законов физики преодолеть невозможно; даже самые гениальные инженерные решения с трудом преодолевают ограничения, присущие медным кабелям. Понимание этого объясняет, почему отрасль срочно переходит на технологию Co-Packaged Optics (CPO).
Чем выше частота электрических сигналов, передаваемых по медным кабелям, тем выше скорость передачи символов и полоса пропускания, а также тем больше информации они могут нести. Проблема в том, что с увеличением частоты сигнала дальность передачи значительно уменьшается. Существуют две основные причины потери сигнала: скин-эффект и диэлектрические потери.
Скин-эффект: «поверхностная концентрация» тока
Когда сигнал переменного тока проходит по медному кабелю, изменяющееся магнитное поле индуцирует вихревые токи внутри проводника. Магнитное поле, создаваемое этими вихревыми токами, нейтрализует магнитное поле сигнала в центре кабеля. Чем быстрее изменяется магнитное поле сигнала,-т. е. чем выше частота,-тем сильнее становится эффект подавления.
Прямым результатом является то, что ток «вжимается» в чрезвычайно тонкий поверхностный слой проводника; Толщина этого слоя известна как глубина скин-слоя. Текущая передача сигналов в центрах обработки данных искусственного интеллекта обычно использует частоты около 53 ГГц. На этой частоте толщина скин-слоя медных кабелей составляет всего 0,3 мкм. Такой тонкий передающий слой занимает менее 1 % площади поперечного сечения-проводника, в результате чего сопротивление кабеля резко возрастает-, даже превышая сопротивление постоянному току более чем в 100 раз.
Диэлектрические потери: «рассеяние энергии» в изоляционном слое
Другой основной причиной затухания сигнала в медных кабелях являются диэлектрические потери. В сценариях с высокими-частотами на уровне гигагерц молекулы внутри изолирующего диэлектрика кабеля не могут идти в ногу с быстрыми колебаниями электрического поля. Задержка между быстрыми колебаниями электрического поля и запаздывающей реакцией молекул преобразует электромагнитную энергию сигнала в тепловую энергию, что приводит к потерям энергии.
Двойные потери: фатальная слабость медных кабелей
Когда скин-эффект и диэлектрические потери действуют согласованно, потери сигнала в медных кабелях увеличиваются экспоненциально с ростом частоты.
Чтобы проиллюстрировать это наглядно: на частоте 50 ГГц даже при использовании высококачественных медных кабелей-совокупные потери из-за этих двух эффектов будут потреблять более 90 % бюджета мощности сигнала на расстоянии передачи 2 метра. Физические свойства медных кабелей диктуют непреодолимое основное противоречие: пропускная способность и дальность передачи не могут быть достигнуты одновременно.
Компактная оптика с плотным мультиплексированием по длине волны-(DWDMCPO)
Сегодня узкое место в производительности обучающих кластеров ИИ сместилось с операций с плавающей точкой-в секунду (флопс) на требования к пропускной способности.
В масштабируемых сетях с согласованной памятью необходимо новое поколение сетевых технологий для удовлетворения множества требований:
|Поскольку энергопотребление становится ограничивающим фактором при развертывании центров обработки данных, требуется более низкое энергопотребление на бит;
| Поскольку операции с плавающей-точкой больше не являются узким местом, необходимо обеспечить большую пропускную способность для каждого процессора;
| Поскольку физическое пространство для развертывания оптоволокна становится ограниченным, необходимо достичь более высокой плотности интеграции;
| Чтобы обеспечить горизонтальное масштабирование между-стойками, необходимо поддерживать большие расстояния передачи;
| Чтобы обеспечить согласованность домена памяти и улучшить использование графического процессора, требуется сверх-низкая задержка;
| Также важны высокая надежность и простота обслуживания.
Когда задержка хвоста становится основным ограничением, выполнение вышеуказанных требований значительно повысит загрузку графического процессора (по оценкам некоторых моделей, загрузка может увеличиться более чем вдвое), существенно снизит энергопотребление сети и улучшит сквозную--производительность модели. В настоящее время DWDMCPO является единственным техническим подходом, способным одновременно удовлетворить эти строгие требования, и он принесет далеко идущие-преобразования с точки зрения затрат-выгод для операторов гипермасштабируемых центров обработки данных.
Передавая свет разных длин волн по одному волокну, технология DWDMCPO предоставляет каждому графическому процессору несколько широких низкоскоростных-каналов. Масштабируя количество передаваемых длин волн от 1 до 8, 16 или даже больше, этот шаблон геометрического масштабирования способен совершить революцию в сетях искусственного интеллекта, точно так же, как технология DWDM произвела революцию в магистральной сети Интернета 25 лет назад.
Скорость одноканальной-передачи DWDM составляет примерно 50–64 Гбит/с, что соответствует категории низкой-скоростной передачи. Эта характеристика позволяет инженерам упростить схему кодирования данных с PAM4 на NRZ. Такое упрощение исключает множество дорогостоящих и энергоемких-этапов обработки сигналов, обеспечивая двойное снижение энергопотребления и задержки за счет оптимизации пути передачи сигнала.
Задержка в хвосте — это «тихий убийца», снижающий рентабельность инвестиций в центры обработки данных. Когда кластеры графических процессоров обрабатывают токены данных, им требуется непрерывный, предсказуемый входной битовый поток. Если при передаче одного бита возникает задержка, остальная часть кластера простаивает, что значительно снижает загрузку процессора. По мере увеличения количества процессоров в кластере вероятность задержки хвостового бита уровня p999 значительно возрастает, и соответственно снижается загрузка процессора.
Без технологии DWDMCPO с низкой-задержкой, низким-потреблением и-большим радиусом действия масштабируемость сетей была бы ограничена, и, следовательно, производительность больших языковых моделей (LLM) была бы ограничена. Масштабируемые сети большего-масштаба, более плоские и с низкой-задержкой могут поддерживать более крупные кэши значений ключей-, напрямую увеличивая размер контекстного окна модели и релевантность контента, тем самым эффективно расширяя эффективную рабочую память LLM. Увеличенная полоса пропускания с низкой-задержкой также потенциально может увеличить количество слоев преобразователя, что позволит моделям обладать более глубокими способностями к мышлению и рассуждению. Короче говоря: преодоление ограничений связи между чипами позволяет LLM хранить больше информации в рабочей памяти и выполнять больше шагов рассуждения без заиканий.
Медные кабели, несомненно, были отличной технологией в свое время, но присущие им физические ограничения создали острую потребность в более совершенных сетевых технологиях, которые могли бы значительно повысить отдачу от инвестиций в гипермасштабные центры обработки данных и расширить возможности LLM.
Через несколько лет центры обработки данных искусственного интеллекта, полностью построенные на медных кабелях, станут такими же невообразимыми, как и соединения с Интернетом на большие расстояния, основанные исключительно на медных кабелях.
Операторы гипермасштабных центров обработки данных, инвесторы, разработчики LLM и другие заинтересованные стороны в инфраструктуре искусственного интеллекта должны серьезно отнестись к этой технологической тенденции: она не только фундаментально изменит структуру затрат-эффективности центров обработки данных, но и постоянно расширяет границы возможностей искусственного интеллекта. Предприятия, которые первыми примут технологию DWDMCPO, получат архитектурные преимущества с точки зрения стоимости, энергопотребления и производительности; эти преимущества будут продолжать усиливаться по мере расширения инфраструктуры искусственного интеллекта.
