Репортаж от Wedoany，Основная задача AI-инфраструктуры сместилась с поддержки вывода больших языковых моделей на обеспечение масштабируемой работы огромного количества интеллектуальных агентов и непрерывное производство высококачественных токенов. По данным IDC, в 2025 году объем корпоративного рынка AI-агентов в Китае составит около 19 миллиардов юаней, а среднегодовой темп роста с 2025 по 2028 год превысит 110%. Оценки Gartner еще более прямолинейны: к 2026 году 40% корпоративных приложений будут интегрировать специализированные AI-агенты. На этапе вывода больших языковых моделей AI-инфраструктуре требовалось поддерживать только один ввод и один вывод. С переходом к этапу агентов инфраструктура должна обеспечивать декомпозицию задач, вызов инструментов, многораундовое взаимодействие и непрерывную работу, что предъявляет совершенно иные требования к вычислительным мощностям. За этим стоят два направления дефицита возможностей: во-первых, возможность масштабируемой и стабильной работы огромного количества агентов, а во-вторых, способность нескольких моделей к совместной работе для повышения интеллекта агентов. На конференции Open Compute 2026 компания Inspur представила новые продуктовые решения для устранения обоих этих пробелов.
В эпоху агентов к AI-инфраструктуре предъявляются новые требования. Раньше предприятия развертывали AI, как правило, подключая одну-две модели для обработки относительно независимых задач: один запрос, один ответ, и на этом всё. С агентами всё иначе. Приложение-агент сначала разбивает задачу, затем шаг за шагом вызывает инструменты, взаимодействует, а за кулисами одновременно может работать целая группа суб-агентов.
После развертывания на предприятии количество агентов может достигать десятков тысяч. Обеспечение стабильной и скоординированной работы такой масштабной группы агентов становится неизбежной новой проблемой. Помимо увеличения числа агентов, растет нагрузка и на отдельные модели. Одни модели хороши в логических рассуждениях, другие — в написании текстов. Такую «перекос» в способностях невозможно устранить простым наращиванием количества параметров. Однако реальные задачи становятся всё сложнее, и трудно ожидать, что одна модель сможет делать всё. Поэтому вопрос организации разделения труда и взаимодополнения нескольких моделей становится еще одной проблемой, требующей решения. Для реального воплощения обоих этих аспектов необходима поддержка со стороны базовой вычислительной инфраструктуры. Первое изменение в инфраструктуре с появлением новых требований — возросшая роль и значение процессоров. В прежней модели «вопрос-ответ» вывод большой языковой модели был одноразовым вводом-выводом, больше полагаясь на GPU. Но агенты работают иначе: им требуется декомпозиция задач, вызов инструментов, многораундовое взаимодействие и обобщение результатов — все эти целочисленные операции и логические рассуждения выполняются на CPU. Кроме того, агенты не «заканчивают работу» после одного запуска; многие из них должны быть постоянно онлайн, что значительно увеличивает время работы. Поэтому в индустрии AI-инфраструктуры меняется и соотношение вычислительных мощностей: от централизации на GPU к совместной работе гетерогенных вычислительных систем. С повышением важности CPU сразу же возникает проблема плотности мощности. Как отметил заместитель генерального директора Inspur Чжао Шуай, мощность отечественных AI-стоек в этом году достигнет 300 киловатт, а некоторые мировые стойки уже перешли на мегаваттный уровень. Если плотность мощности на стороне CPU останется на уровне нескольких киловатт на стойку, это будет совершенно несовместимо с новой инфраструктурой электропитания центров обработки данных. С ростом мощности стоек возникает проблема охлаждения. Традиционный предел воздушного охлаждения в 40-50 киловатт на стойку давно исчерпан, и жидкостное охлаждение становится обязательным вариантом.
Более 40 000 агентов на одну стойку. Для обеспечения масштабируемой работы агентов компания Inspur выпустила первый в отрасли сервер в виде цельной стойки с нативным жидкостным охлаждением процессоров. Этот сервер максимально поддерживает до 384 процессоров на основе открытой архитектуры OCM (Open Compute Module), совместимых с x86 и ARM, что позволяет обеспечить совместную работу более 40 000 агентов.
Этот масштаб в 40 раз превышает решение «Qi Qian Xia», представленное Inspur в апреле этого года. Тогда для развертывания 1000 OpenClaw использовался один 2U-сервер. Теперь же Inspur заполнил агентами целую стойку. При этом в стойке используется архитектура OCM, которая совместима с процессорами разных поколений и архитектур, что избавляет от необходимости перепроектировать всю систему для каждого нового поколения чипов, значительно сокращая цикл разработки. Размещение 384 процессоров в одной стойке делает охлаждение неизбежным препятствием. Inspur предложила новую концепцию охлаждения: нативное жидкостное охлаждение. Эта идея полностью переворачивает традиционную логику гибридного воздушно-жидкостного охлаждения. В предыдущих конструкциях серверов с жидкостным охлаждением на вычислительные компоненты наклеивалась охлаждающая пластина, а для отвода тепла от остальных компонентов (память, сетевые карты, жесткие диски) приходилось решать, как использовать вентиляторы.
На этот раз подход полностью изменен: проектирование вычислений и охлаждения ведется совместно, преодолевая ограничение традиционного жидкостного охлаждения, которое охватывало только CPU. Все тепловыделяющие компоненты, включая память, сетевые карты, оптические модули, SSD и другие, включаются в систему жидкостного охлаждения, перестраивая всю вычислительную систему. Конкретный подход Inspur заключается в создании вычислительных блоков в сверхтонком форм-факторе 2U. Один узел вмещает 16 процессоров, а такие компоненты, как память, сетевые карты и оптические модули, которые ранее охлаждались вентиляторами и соединялись кабелями, размещаются непосредственно на материнской плате. Для отвода тепла используется одна большая охлаждающая пластина, что также позволяет отказаться от серверных салазок. Таким образом, пространство, ранее занятое вентиляторами, трубками и кабелями, освобождается для вычислительных и IO-ресурсов. В результате вся стойка выполнена без кабелей, поддерживает горячую замену, обеспечивая нулевое время простоя бизнеса, а эффективность обслуживания стойки повышается более чем на 100%.
Несколько больших языковых моделей совместно выполняют одну задачу. Чтобы сделать агентов умнее, Inspur также запустила API мультимодельного слияния на платформе Yuan Brain EP AI и одновременно выпустила корпоративную версию AI-сервера Yuan Brain SD200 Super Node. Суть мультимодельного слияния заключается в том, что одна и та же задача одновременно отправляется нескольким моделям-кандидатам, которые независимо генерируют ответы. Затем специальная модель оценки и слияния сравнивает эти ответы на предмет консенсуса, расхождений, упущений и уникальных точек зрения, в конечном итоге формируя единый вывод. Этот процесс не применяется ко всем задачам. Короткие задачи, такие как простые вопросы-ответы, вызов инструментов и преобразование форматов, система напрямую направляет на более легкую обработку одной моделью. Только для сложных длинных задач система задействует несколько моделей-кандидатов для совместной обработки, избегая излишней сложности. В тесте DRACO этот механизм показал результат 53,9%, что выше, чем у любой отдельной модели из того же пула кандидатов. В настоящее время эта возможность предоставляется в виде API мультимодельного слияния, который можно интегрировать в приложения как обычный сервис модели, а также настраивать в средах агентов и фреймворках разработки, используя существующие процессы диалога, рассуждений и вызова инструментов. Однако возникает и проблема: одновременное участие нескольких больших языковых моделей в одной задаче, несомненно, предъявляет более высокие требования к базовым вычислительным мощностям. Необходимо одновременно разместить несколько моделей с триллионами параметров, не жертвуя скоростью вывода. Именно эту задачу призван решить Yuan Brain SD200 Super Node. Когда Yuan Brain SD200 Super Node был представлен в прошлом году, он уже мог одновременно развертывать 4 большие языковые модели с триллионами параметров, генерируя токен за 8,9 миллисекунды, став первым в Китае продуктом, преодолевшим барьер в 10 миллисекунд. В этом году этот показатель был снижен до 4,77 миллисекунды, что является первым в Китае решением, работающим в пределах 5 миллисекунд, а задержка первого токена также снижена на 35%.
Эти улучшения стали возможны благодаря программно-аппаратной совместной оптимизации, такой как многотокенное предсказание, схема точности W4A8 и JIT-компиляция. Многотокенное предсказание позволяет на этапе декодирования генерировать несколько токенов-кандидатов за один раз, а затем проверять их, сокращая количество итераций посимвольной генерации. W4A8 снижает точность вычислений модуля MoE в моделях с триллионами параметров с BF16 до INT8, уменьшая нагрузку на пропускную способность памяти. JIT-компиляция динамически генерирует специализированные GPU-ядра во время выполнения в зависимости от формы тензоров, приближая вычислительные возможности к характеристикам оборудования. В настоящее время Yuan Brain SD200 Super Node уже адаптирован для таких популярных моделей с открытым исходным кодом, как Kimi K2.6, DeepSeek V4, GLM 5.2, MiniMax M3 и других. Однако порог входа в эту архитектуру для многих малых и средних предприятий остается высоким. Поэтому Inspur также выпустила корпоративную версию Yuan Brain SD200 Super Node, которую можно рассматривать как уменьшенную версию Yuan Brain SD200.
В ней вычислительная область Scale Up сокращена с 64 до 16 карт, а задержка первого токена для моделей с триллионами параметров снижена более чем на 40%, предоставляя предприятиям вариант с более низкой стоимостью миграции и адаптации. Таким образом, предприятия, которые ранее могли развертывать только модели с сотнями миллиардов параметров для вспомогательных задач, теперь могут реально использовать модели с триллионами параметров в производственной среде.
Конкуренция в области инфраструктуры для агентов изменилась. Сегодня разделение труда между CPU, GPU и программными платформами становится всё более тесным. Программная платформа отвечает за подключение моделей, оркестровку задач, распределение ресурсов, управление правами и слияние результатов. CPU обеспечивает работу экземпляров агентов, вызов инструментов, выполнение в песочнице и взаимодействие с бизнес-системами. GPU отвечает за вывод моделей и генерацию токенов. Только совместная работа всех трех компонентов может обеспечить стабильную работу огромного количества агентов и эффективное выполнение сложных задач. Если какое-либо звено в этой цепочке отстает, всё приложение-агент будет работать неэффективно. Это также изменило фокус конкуренции в области инфраструктуры для агентов. Раньше соревновались в том, кто лучше поддерживает одну модель. Теперь соревнуются в том, у кого лучше организована системная совместная работа. Сильных сторон в отдельных точках уже недостаточно; ключевым фактором является то, насколько гладко и скоординированно работает вся цепочка. Именно такой ответ на вопросы инфраструктуры для агентов Inspur стремится дать в этот раз.
