Американская CIQ запускает среду ИИ Fuzzball для NVIDIA DGX Spark

Репортаж от Wedoany，Компания CIQ объявила о том, что её платформа Fuzzball предоставляет готовую к промышленной эксплуатации среду для вычислений и логического вывода ИИ на базе NVIDIA DGX Spark. DGX Spark является первой поддерживаемой платформой, в дальнейшем будет обеспечена поддержка и других платформ. Команды ИИ могут получить единую среду для разработки, настройки и развёртывания рабочих нагрузок на собственной контролируемой инфраструктуре. Эта среда работает одинаково как на одном DGX Spark, так и на крупных кластерах GPU и центрах обработки данных, не требуя перестройки при масштабировании вычислений.

Перед вводом модели в эксплуатацию командам ИИ приходится тратить месяцы на ручную сборку хранилищ, реестров контейнеров, планировщиков, серверов логического вывода и конвейеров развёртывания. Каждое изменение базовой вычислительной среды вынуждает начинать всё заново, что приводит к задержкам развёртывания рабочих нагрузок и монетизации из-за модернизации инфраструктуры. Fuzzball заменяет эту работу готовой к использованию средой ИИ для вычислений и логического вывода, специально разработанной для частного локального логического вывода на DGX Spark. Для организаций, создающих суверенные рабочие нагрузки ИИ (где данные не могут покидать локальную сеть), это обеспечивает путь от настройки частных моделей до промышленного логического вывода, сохраняя при этом контроль над базовой инфраструктурой и сокращая время от идеи модели до запуска сервиса логического вывода с месяцев до дней.

Грегори Курцер, генеральный директор и основатель CIQ, создатель Rocky Linux, заявил, что Fuzzball — это Kubernetes для производительных вычислений и то, что нужно командам ИИ для реального владения своей инфраструктурой. Сложность ИИ заключается не в самой модели, а в её масштабировании без перестройки базовой инфраструктуры при изменении вычислений. Большинство команд тратят месяцы на решение этой проблемы до ввода первой рабочей нагрузки в эксплуатацию, и Fuzzball кладёт этому конец. Благодаря сотням встроенных шаблонов рабочих процессов один DGX Spark с первого дня является полноценной средой для разработки, тестирования и валидации ИИ, причём эти рабочие процессы могут выполняться без изменений на тысячах систем и GPU. CIQ означает «Контролирующий интеллект» (Controlling Intelligence), и Fuzzball — это способ, которым команды достигают этой цели.

С помощью Fuzzball один DGX Spark с первого дня становится рабочей средой для разработки и развёртывания ИИ и может напрямую масштабироваться до более крупной инфраструктуры по мере необходимости проекта. Несколько систем DGX Spark могут работать совместно в единой среде Fuzzball, предоставляя небольшим командам практичный способ поэтапного наращивания локальных вычислительных мощностей. Когда рабочие нагрузки превышают локальную ёмкость, те же контейнеры, активы моделей и определения рабочих процессов могут быть бесшовно перенесены на более крупные развёртывания NVIDIA GPU, при этом пользователи могут масштабироваться от NVIDIA DGX Spark до NVIDIA GB300 NVL72 без изменения приложений, модели оркестрации Fuzzball или процесса развёртывания Fuzzball.

Для команд ИИ и HPC, которые ранее управляли разрозненными инструментальными цепочками, Fuzzball устраняет операционную раздробленность, препятствующую переходу ИИ от экспериментов к промышленной эксплуатации. Платформа объединяет локальные системы DGX Spark и существующие кластеры HPC с облачными мощностями и инфраструктурой GPU, включая системы NVIDIA GPU, работая при этом в рамках единой операционной модели. Результатом является новое поколение ускоренных вычислений, где пакетная оркестрация, переносимость рабочих процессов, контейнеризированное выполнение и промышленный логический вывод работают согласованно.

Бьёрн Ховланд, президент CIQ, отметил, что организации в регулируемых отраслях вынуждены выбирать между внедрением ИИ в производство и сохранением данных в контролируемой инфраструктуре. Fuzzball устраняет этот компромисс. Команды могут частным образом настраивать модели на DGX Spark, эксплуатировать эти модели как сервисы промышленного логического вывода и масштабировать их на более крупную контролируемую инфраструктуру без изменения базовой среды. Чтобы суверенный ИИ был жизнеспособным, он должен работать одинаково на каждом уровне вычислений, и именно это обеспечивает Fuzzball на DGX Spark. DGX Spark — первая платформа, поддерживающая эту функцию, но не последняя.