Репортаж от Wedoany，25 мая южнокорейская компания SK Hynix объявила о выпуске решения для охлаждения iHBM, которое интегрирует охлаждающие элементы непосредственно в корпус памяти с высокой пропускной способностью (HBM) для использования в продуктах HBM следующего поколения. Это решение снижает тепловое сопротивление HBM в условиях высокой плотности и высокой пропускной способности за счет добавления путей отвода тепла внутри корпуса и ориентировано на обеспечение стабильной работы центров обработки данных для ИИ и высокопроизводительных вычислительных систем.
Этот анонс затрагивает ключевой момент перехода конкуренции в области памяти для ИИ от борьбы за пропускную способность к соревнованию в области системного управления тепловыделением. По мере того как ИИ-ускорители продолжают наращивать вычислительную мощность, HBM требуется поддерживать рабочие нагрузки по обучению моделей, логическому выводу и обработке данных с большим количеством слоев в стеке и более высокой скоростью передачи данных, что приводит к росту плотности мощности внутри корпуса микросхемы. Для клиентов центров обработки данных производительность HBM уже зависит не только от емкости, пропускной способности и выхода годных изделий; эффективность отвода тепла также напрямую влияет на рабочую частоту ускорителя, стабильность системы, энергопотребление стойки и долгосрочную надежность. Решение SK Hynix внедрить охлаждающие элементы непосредственно в корпус HBM показывает, что конкуренция в области памяти для ИИ выходит за рамки показателей отдельных микросхем и распространяется на структуру корпуса, проектирование тепловых путей и эффективность работы на системном уровне.
Техническая особенность iHBM заключается во встраивании интегрированного охлаждающего элемента (ICE) в корпус HBM. SK Hynix поясняет, что ICE изготовлен из электроизоляционного, теплопроводящего материала на основе кремния и обеспечивает дополнительный путь теплопередачи для корпуса HBM. В отличие от существующих HBM, где тепло отводится в основном косвенно через основной кристалл, iHBM размещает ICE в области физического интерфейса D2D PHY, где концентрируется больше тепла, напрямую улучшая условия охлаждения в зонах с высоким тепловыделением.
D2D PHY — это высокоскоростной аппаратный интерфейс, соединяющий HBM с GPU и ИИ-ускорителями, и ключевой участок при высокоскоростном обмене данными. SK Hynix заявляет, что решение iHBM позволяет снизить тепловое сопротивление на 30%, обеспечивая более стабильную работу микросхемы в условиях высоких температур и напряжений. Для ИИ-серверов такое улучшение помогает смягчить проблему локальной концентрации тепла, возникающую при увеличении количества слоев в стеке HBM, а также резервирует пространство для корпусов с более высокой плотностью для будущих продуктов следующего поколения, таких как HBM5.
Совместимость с массовым производством является еще одним важным сигналом этого решения. SK Hynix заявляет, что iHBM основан на их проверенной технологии MR-MUF и процессе корпусирования на уровне пластины, что позволяет поддерживать стабильное крупносерийное производство; кроме того, это решение обладает высокой конструктивной совместимостью с существующей архитектурой системного корпуса (SiP), и клиентам не потребуется вносить значительные структурные изменения при его внедрении. Для облачных провайдеров, компаний-разработчиков ИИ-чипов и клиентов серверных платформ возможность быстрого включения новой технологии охлаждения корпусов в дорожную карту продукта часто зависит от того, насколько она совместима с существующей цепочкой поставок, процессами корпусирования и системным дизайном, а не только от лабораторных показателей отвода тепла.
HBM стала одним из ключевых продуктов интегральных схем в инфраструктуре ИИ. GPU и ИИ-ускорителям необходимо считывать и записывать большие объемы параметров модели, значений активации и промежуточных данных за чрезвычайно короткое время. HBM обеспечивает высокую пропускную способность за счет стекирования кристаллов DRAM и широкого интерфейса, но внутреннее пространство корпуса ограничено, и нагрузка по отводу тепла будет синхронно возрастать с увеличением количества слоев в стеке и скорости. Перенос управления тепловыделением внутрь корпуса памяти с помощью iHBM помогает производителям памяти играть более высокую системную ценность в вычислительных платформах ИИ, а также будет способствовать скоординированной модернизации в области передового корпусирования, материалов, тестирования и проектирования систем охлаждения серверов.
SK Hynix заявляет, что iHBM планируется использовать в продуктах HBM следующего поколения, включая HBM5, для повышения стабильности и эффективности работы высокопроизводительных вычислений и центров обработки данных ИИ в условиях высокой плотности и высокой пропускной способности. Руководитель отдела разработки корпусов компании Ли Канук (Lee Kangwook) отметил, что iHBM сочетает в себе возможности проектирования памяти и передовые технологии корпусирования и является решением, отвечающим потребностям управления тепловыделением в среде ИИ.
Последующие этапы проекта включают график внедрения iHBM в продукты HBM5, результаты клиентской проверки, выход годных изделий в массовом производстве, совместное проектирование с платформами ИИ-ускорителей, а также вопрос о том, сможет ли это решение стать стандартизированным путем отвода тепла для корпусов HBM с высоким стеком. На данном этапе можно подтвердить, что SK Hynix выпустила решение для охлаждения iHBM и раскрыла техническую информацию о снижении теплового сопротивления на 30%, использовании интегрированного охлаждающего элемента ICE, совместимости с MR-MUF и архитектурой системного корпуса; в открытой информации не раскрываются конкретные клиенты, сроки массового производства, параметры образцов HBM5, суммы контрактов или список принятых серверных платформ, поэтому не следует расширять информацию до утверждения о том, что это решение уже широко используется в коммерческих центрах обработки данных для ИИ.
Данный материал скомпилирован платформой Wedoany. При цитировании материалов, созданных с помощью искусственного интеллекта (ИИ), необходимо обязательно указывать источник — «Wedoany». В случае выявления нарушения прав или иных проблем просим своевременно информировать нас. Сайт оперативно внесёт изменения или удалит материал.Электронная почта: news@wedoany.com
