Репортаж от Wedoany，Американская компания DeepInfra недавно запустила узел центра обработки данных искусственного интеллекта в Торонто, Канада. Объект обеспечивает мощность 1,7 МВт и планирует развернуть более 1000 графических процессоров NVIDIA Blackwell B300 производства США. Этот проект является девятым по счёту узлом центра обработки данных DeepInfra, введённым в эксплуатацию по всему миру, и первым расширением инфраструктуры ИИ за пределы США.
Объект в Торонто в основном ориентирован на задачи вывода ИИ. В отличие от централизованного обучения крупных моделей, этап вывода требует долгосрочного и непрерывного реагирования на запросы пользователей, включая такие области применения, как интеллектуальные агенты, генеративные сервисы ИИ, интерактивное взаимодействие в реальном времени и масштабные вызовы API. Размещение вычислительных ресурсов ближе к канадским клиентам и данным позволяет сократить пути передачи данных для некоторых операций и снизить сетевые задержки при трансграничном обращении к вычислительным узлам в США.
Объявленная мощность 1,7 МВт представляет собой базовую инфраструктурную ёмкость центра обработки данных, а более 1000 графических процессоров B300 — это запланированный масштаб развёртывания данного узла. Публичная информация пока не уточняет, установлены ли все эти GPU, а также не раскрывает количество серверных стоек, плотность мощности на стойку и поэтапный график ввода в эксплуатацию, поэтому плановый масштаб нельзя напрямую приравнивать к текущей вычислительной мощности, уже введённой в эксплуатацию.
Американская DeepInfra владеет и управляет собственной инфраструктурой GPU. Её платформа в настоящее время поддерживает более 200 моделей с открытым исходным кодом и обрабатывает около 5 триллионов токенов еженедельно. После ввода в эксплуатацию узел в Торонто вместе с существующими центрами обработки данных образует распределённую сеть вывода, дополняя региональные вычислительные ресурсы для развёртывания открытых моделей, собственных моделей и приложений интеллектуальных агентов. Компания сообщает, что другие международные узлы центров обработки данных также находятся на стадии оценки.
С точки зрения функциональности объекта, основная цель проекта — создание высокоплотного кластера GPU и соответствующей инфраструктуры центра обработки данных. Для непрерывной работы серверов B300 требуется координация систем электроснабжения и распределения, охлаждения, сетевого взаимодействия и хранения данных в серверном помещении. Однако на данный момент компания-проектировщик не раскрыла метод охлаждения, сетевую архитектуру, конфигурацию хранения и партнёра по эксплуатации центра обработки данных для узла в Торонто. По данным американского издания Data Center Dynamics, проект, вероятно, использует мощности стороннего центра обработки данных, но DeepInfra официально это не подтвердила, поэтому не следует описывать его как отдельное новое здание центра обработки данных, построенное компанией.
Ввод в эксплуатацию этого узла означает расширение инфраструктурного присутствия DeepInfra с рынка США на Канаду. Дальнейшие приоритеты будут включать завершение развёртывания GPU, увеличение фактически доступной мощности вывода и подключение нового узла к глобальной платформе модельных сервисов компании. На данный момент подтверждены официальный запуск объекта мощностью 1,7 МВт и план развёртывания более 1000 графических процессоров B300. Конкретные пропорции ввода в эксплуатацию и график запуска оборудования требуют дальнейшего раскрытия компанией.
