Cisco и Nvidia расширяют безопасный AI-фабрики до уровня стоек, более 200 кВт на стойку

Репортаж от Wedoany，Cisco и Nvidia расширили совместную безопасную AI-фабрику (Cisco Secure AI Factory with Nvidia) до масштаба стоек, предоставляя предприятиям более полные возможности полного стека. Решение основано на инфраструктуре развертывания искусственного интеллекта во всей инфраструктуре заказчика и теперь включает жидкостное охлаждение от стойки до сети, поддерживая нагрузку более 200 кВт на стойку для таких сценариев, как инференс, агентный ИИ и обучение моделей с триллионами параметров. Последние усовершенствования включают коммутационные чипы Nvidia Spectrum-X в сочетании с операционной системой Cisco, что позволяет заказчикам развертывать решения как в соответствии с эталонной архитектурой, соответствующей спецификациям Nvidia Cloud Partner, так и на базе архитектуры на основе Cisco Silicon One.

По мере того как ИИ выходит из исследовательских лабораторий в производственные цеха и торговые залы, предприятия ищут полностековые архитектуры, способные развертывать автономные технологии в высокоценных производственных средах, что является ключевой характеристикой AI-фабрик. Cisco и Nvidia позиционируют свои продуктовые портфели как основу для обеспечения операционной базы, способной поддерживать эту модель.

Уилл Изертон (Will Eatherton), старший вице-президент по сетевой инженерии Cisco, рассказал, что в части горизонтального масштабирования для подключения GPU Cisco предлагает сетевой стек на базе чипов Nvidia Spectrum с запуском NX-OS или SONiC для фронтального подключения GPU; одновременно с этим с помощью Cisco Silicon One в сочетании с тем же программным обеспечением заказчики могут реализовать высокопроизводительные сетевые подключения для хранения данных.

Изертон выступил на мероприятии «Cisco и Nvidia расширяют безопасную AI-фабрику до масштаба стоек» (Cisco Secure AI Factory With Nvidia Expands to Rack Scale) в эксклюзивном прямом эфире theCUBE (живой студии SiliconANGLE Media) вместе с ведущим Джоном Фурриером (John Furrier). К ним также присоединился Марк Гамильтон (Marc Hamilton), вице-президент по архитектуре и инженерии решений Nvidia. Они обсудили, как обе компании преодолевают разрыв между получением GPU и эксплуатацией готовой к производству AI-фабрики. Гамильтон отметил, что решение выходит далеко за рамки стоечного уровня и представляет собой полноценное решение уровня AI-фабрики. В сценариях генеративного ИИ пользователи могут вызывать агентов в песочнице или выполнять вызовы инструментов во фронтальной сети, что может повлиять на скорость работы, а эталонная архитектура Cisco предоставляет полные возможности для определения точки входа, просмотра, отладки и оптимизации всего стека.

Эталонная архитектура объединяет несколько ранее разработанных Cisco инструментов и сервисов, включая Cisco Nexus One — открытую унифицированную плоскость управления сетью (интегрирующую чипы, системы, программное обеспечение и операционные модели со встроенной безопасностью и наблюдаемостью), а также операционную платформу Cisco Cloud Control для агентного ИТ. Изертон сообщил, что Cisco использует Nexus One для повседневных операций, управления и мониторинга, а Cloud Control — для внедрения AgenticOps во всем решении, обеспечивая программное обеспечение, продажи и поддержку для всего кластера. Партнерство с Nvidia имеет ключевое значение, поскольку обе компании совместно подбирают правильные технологические компоненты для заказчиков, формируя целостное решение, параллельное стеку.