Репортаж от Wedoany，Компании Arrcus и канадский телекоммуникационный оператор TELUS объявили о запуске пилотного проекта (PoC), направленного на оценку архитектуры сети выводов Arrcus (AINF) в качестве сетевой основы для суверенных, распределённых ИИ-выводов на территории Канады.
Цель проекта — предоставление услуг ИИ с низкой задержкой для служб общественной безопасности, экстренного реагирования, государственных учреждений и корпоративных клиентов, при этом обеспечивая сохранение конфиденциальных данных и ИИ-нагрузок в пределах Канады. Данный PoC отражает более широкий переход архитектуры ИИ от централизованного обучения моделей к распределённым выводам, когда ИИ-модели выполняются ближе к пользователям, устройствам и источникам данных. Arrcus позиционирует AINF как сетевую архитектуру с поддержкой политик, специально разработанную для ИИ-нагрузок.
Платформа способна оценивать определённые оператором политики, такие как требования к задержке, правила суверенитета данных, выбор модели, доступность ёмкости и ограничения по энергопотреблению, а затем динамически направлять запросы на выводы в наиболее подходящее вычислительное местоположение. На уровне развёртывания AINF интегрируется с NVIDIA BlueField-3 DPU и коммутаторами Ethernet Spectrum-4, обеспечивая зашифрованное распределённое ИИ-соединение, охватывающее периферийные, центры обработки данных и облачные среды.
Архитектура также интегрируется с NVIDIA Dynamo для локальной балансировки нагрузки больших языковых моделей (LLM), в то время как AINF управляет маршрутизацией выводов по всей сети TELUSинфраструктуры. Arrcus заявляет, что такой подход направлен на повышение отзывчивости ИИ, эффективности использования вычислительных ресурсов и соблюдение требований Канады к хранению данных. TELUS оценивает AINF для развёртывания суверенного ИИ, поддерживающего приложения в сфере общественной безопасности, государственного управления и корпоративного сектора. AINF обеспечивает маршрутизацию на основе политик ИИ с учётом задержки, суверенитета, доступности модели, сетевых условий и операционных политик, поддерживая геозонирование и принудительное соблюдение требований к хранению данных для сохранения ИИ-нагрузок в пределах Канады.
Интеграция с NVIDIA BlueField-3 DPU обеспечивает зашифрованную передачу данных со скоростью до 400 Гбит/с без нагрузки на центральный процессор. Архитектура также поддерживает NVIDIA Dynamo, vLLM, SGLang, Triton, Kubernetes, SRv6 и мобильную пользовательскую плоскость (MUP). Согласно отраслевым исследованиям, Arrcus отмечает потенциальные преимущества: снижение времени до первого токена (TTFT) более чем на 60%, снижение сквозной задержки на 40%, увеличение пропускной способности на 15% и снижение стоимости выводов до 30%.
Тим Фелл, вице-президент по проводным технологиям и услугам TELUS, отметил: «Общественная безопасность и критически важные службы требуют ИИ, который по своей конструкции является быстрым, надёжным и суверенным. Благодаря AINF компания Arrcus предоставляет нам интеллектуальную сетевую основу с поддержкой политик, способную быстро и в масштабе предоставлять ИИ-выводы в нашей сети, одновременно обеспечивая суверенитет данных, безопасность и предсказуемость, необходимые нашим партнёрам в сфере общественной безопасности, государственным и корпоративным клиентам».
Это объявление подчёркивает растущий интерес отрасли к сетям для ИИ-выводов, а не к кластерам для обучения ИИ. Хотя основное внимание на рынке инфраструктуры ИИ сосредоточено на графических процессорах и крупномасштабном обучении моделей, операторы всё чаще сталкиваются с проблемами, связанными с предоставлением услуг выводов в географически распределённых точках. Эта тенденция стимулирует интерес к сетевым платформам, способным принимать решения о маршрутизации на основе специфических политик ИИ. Для Arrcus сотрудничество с TELUS является заметной возможностью для валидации AINF. AINF — это специализированная сетевая архитектура для распределённых ИИ-выводов, запущенная компанией ранее в этом году. Платформа расширяет более широкую стратегию Arrcus по созданию программно-определяемой сетевой инфраструктуры на базе операционной системы ArcOS, одновременно используя экосистему коммерческихчипов. Интеграция с NVIDIA BlueField DPU, коммутаторами Ethernet Spectrum и программным обеспечением Dynamo согласует Arrcus с быстро расширяющимся стеком инфраструктуры ИИ от NVIDIA, поскольку глобальные поставщики услуг и правительства изучают суверенные ИИ-инициативы и архитектуры распределённых выводов.
Данный материал скомпилирован платформой Wedoany. При цитировании материалов, созданных с помощью искусственного интеллекта (ИИ), необходимо обязательно указывать источник — «Wedoany». В случае выявления нарушения прав или иных проблем просим своевременно информировать нас. Сайт оперативно внесёт изменения или удалит материал.Электронная почта: news@wedoany.com
