Репортаж от Wedoany，Китайская компания Huawei представила коммерческий суперузел интеллектуальных вычислений Atlas 950 SuperPoD, предназначенный для обучения больших моделей и создания крупномасштабных вычислительных кластеров для сценариев высокоплотностных искусственных интеллектуальных вычислений. Минимальной единицей развертывания системы является одна стойка с 64 картами NPU Ascend 950DT, максимально расширяемая до полного взаимного соединения и совместной работы 8192 карт NPU Ascend 950DT, формируя полный путь строительства от развертывания одной стойки до сверхмасштабного кластера. По заявлению Huawei, Atlas 950 SuperPoD в настоящее время является крупнейшим в отрасли коммерческим суперузлом интеллектуальных вычислений, соответствующее решение прошло коммерческую верификацию у ведущих клиентов, а первые заказы на закупку от некоторых ведущих интернет-компаний перешли в стадию поставки.
Инженерный фокус Atlas 950 SuperPoD заключается не только в увеличении количества вычислительных карт, но и в обеспечении высокоскоростного соединения и совместной работы тысяч карт NPU в рамках одной системы. По мере расширения кластера с 64 карт в одной стойке до 8192 карт, вычислительным задачам необходимо постоянно обмениваться данными между различными устройствами, стойками и узлами. Если пропускная способность взаимного соединения недостаточна, большое количество вычислительных блоков может не полностью реализовать свою производительность из-за ожидания данных. Таким образом, реальная производительность суперузла зависит не только от вычислительной мощности одной карты NPU, но и от того, могут ли сеть взаимного соединения, организация памяти и системное планирование поддерживать крупномасштабные параллельные вычисления.
Что касается производительности ядра вычислений, общая вычислительная мощность Atlas 950 SuperPoD в точности FP8 достигает 8 EFLOPS, а в точности FP4 — 16 EFLOPS. Эти два типа низкоточных вычислений в основном обслуживают обучение больших моделей и связанные задачи искусственного интеллекта, позволяя системе повысить скорость обработки в единицу времени при вычислениях с параметрами большого масштаба. Для задач моделей, требующих непрерывных матричных операций и параллельных вычислений, чем больше масштаб вычислений, тем выше требования к передаче данных, разделению задач и координации узлов. Поэтому Atlas 950 SuperPoD проектирует вычислительную мощность и архитектуру взаимного соединения синхронно, а не просто объединяет независимые устройства в кластер.
Данный суперузел использует собственную разработку Huawei — протокол высокоскоростного взаимного соединения Lingqu и полностью оптическую архитектуру взаимного соединения, обеспечивая пропускную способность системного взаимного соединения 16,3 ПБ/с. Высокоскоростная сеть взаимного соединения отвечает за соединение различных карт NPU и вычислительных узлов, обеспечивая быструю передачу параметров модели, обучающих данных и промежуточных результатов вычислений внутри кластера. Полностью оптическая архитектура взаимного соединения, в свою очередь, берет на себя задачи обмена данными между устройствами и узлами, предоставляя базовый канал для полного взаимного соединения и совместной работы 8192 карт, сокращая ожидание, вызванное перемещением данных в процессе крупномасштабного параллельного обучения.
С точки зрения структуры развертывания, минимальная единица из 64 карт в одной стойке обеспечивает поэтапную реализацию проекта. Пользователи могут сначала настроить базовый масштаб в соответствии с фактическими потребностями в вычислительной мощности, а затем постепенно добавлять стойки и вычислительные карты в зависимости от количества моделей, задач обучения и рабочей нагрузки, не развертывая систему максимального масштаба на начальном этапе. По мере расширения кластера протокол высокоскоростного взаимного соединения Lingqu отвечает за поддержание соединений между различными блоками, позволяя новой вычислительной мощности интегрироваться в единую систему суперузла, а не формировать независимые друг от друга вычислительные ресурсы.
Синергия памяти и хранения является еще одним ключевым аспектом Atlas 950 SuperPoD. Система формирует общий пул памяти объемом 1152 ТБ через архитектуру эластичной памяти и хранения EMS, позволяя различным вычислительным узлам вызывать и обмениваться данными в едином пространстве памяти. Для обучения больших моделей параметры модели, наборы данных и промежуточные результаты требуют постоянного занятия большого объема памяти. Если ресурсы памяти жестко распределены по отдельным устройствам, на некоторых узлах может не хватать места, в то время как память других узлов не может быть полностью использована.
Роль общего пула памяти заключается в объединении ресурсов памяти, распределенных по разным узлам, под единое управление, позволяя вычислительным задачам динамически вызывать их в соответствии с фактическими потребностями. Емкость общего пула памяти в 1152 ТБ обеспечивает большую емкость для хранения данных при обучении крупномасштабных моделей, одновременно уменьшая дублирование данных между разными узлами. Архитектура эластичной памяти и хранения EMS дополнительно связывает память и ресурсы хранения, позволяя системе корректировать местоположение данных в зависимости от состояния выполнения задачи, совместно с высокоскоростной сетью взаимного соединения завершая чтение, обмен и обработку данных модели.
Atlas 950 SuperPoD интегрирует вычислительные карты, высокоскоростное взаимное соединение, полностью оптическую сеть и общий пул памяти в один суперузел, формируя системную инфраструктуру для обучения больших моделей. Вычислительные блоки отвечают за выполнение задач модели, протокол Lingqu и полностью оптическая архитектура обеспечивают связь между узлами, архитектура эластичной памяти и хранения EMS отвечает за единую организацию ресурсов памяти, и все эти части совместно определяют, могут ли 8192 карты NPU поддерживать стабильную совместную работу. По заявлению Huawei, данное решение может снизить общую стоимость обучения больших моделей более чем на 30%, и этот результат должен быть достигнут за счет совместной работы нескольких аспектов, включая коэффициент использования вычислительной мощности, эффективность взаимного соединения и конфигурацию ресурсов памяти.
В настоящее время данный суперузел прошел коммерческую верификацию у ведущих клиентов, что свидетельствует о переходе соответствующей системы от этапа технических исследований и разработок и проверки решений к этапу практического применения. Первые заказы на закупку от некоторых ведущих интернет-компаний уже перешли в стадию поставки, и последующие проекты будут сосредоточены на установке оборудования, организации кластера, отладке системы и вводе вычислительной мощности в эксплуатацию, постепенно превращая суперузел из аппаратной поставки в работоспособную инфраструктуру для обучения больших моделей.
От одной стойки с 64 картами до полного взаимного соединения 8192 карт, логика построения Atlas 950 SuperPoD заключается в непрерывном расширении масштаба вычислительной мощности через стандартизированные блоки развертывания, одновременно поддерживая внутреннюю координацию кластера за счет высокоскоростного взаимного соединения и общей памяти. С переходом первых заказов в стадию поставки, фактическая работа данного решения будет в основном отражаться в таких аспектах, как развертывание крупномасштабных кластеров, стабильность взаимного соединения узлов, планирование общей памяти и эффективность обучения моделей. Соответствующий инженерный прогресс также станет важным этапом для наблюдения за масштабным применением отечественных суперузлов интеллектуальных вычислений.
