Репортаж от Wedoany,16 июля китайская компания Hard Egg Innovation запустила бизнес по созданию вертикальных AI Token-фабрик, планируя развернуть распределённые вычислительные узлы в нескольких местах как в Китае, так и за его пределами. Совместно с собственным вычислительным кластером и сторонними вычислительными центрами внутри страны и за рубежом компания будет предоставлять услуги по обучению и выводу моделей искусственного интеллекта. Компания уже создала платформу для диспетчеризации вычислительных мощностей Token в вертикальных отраслях, а дальнейшее строительство будет включать возведение серверных помещений, развёртывание вычислительных кластеров, диспетчеризацию вычислительных ресурсов, а также эксплуатацию и обслуживание.
Данная инфраструктура развёртывается по «двухтрековой модели». Часть вычислительных мощностей поступает из собственного кластера Hard Egg Innovation, а другая часть подключается к сторонним вычислительным центрам внутри страны и за рубежом. Серверы и вычислительные ресурсы из разных мест будут управляться единой платформой, что позволит компаниям, занимающимся моделями искусственного интеллекта, предприятиям в области воплощённого интеллекта и облачным сервис-провайдерам, вызывать соответствующие вычислительные мощности в зависимости от потребностей задачи. Местоположение первых вычислительных узлов, количество серверов, конфигурация чипов и время ввода в эксплуатацию в настоящее время не раскрываются.
AI Token-фабрика в основном берёт на себя вычислительные задачи в процессе работы больших моделей. После того как пользователь вводит текст, изображения или данные с устройств в модель искусственного интеллекта, серверный кластер должен непрерывно выполнять вывод модели и генерировать выходной контент. С увеличением количества вызовов моделей соответствующий бизнес предъявляет более высокие требования к GPU-серверам, стойкам центров обработки данных, высокоскоростным сетям, системам хранения и возможностям обслуживания кластеров. Выход Hard Egg Innovation в сегмент эксплуатации Token означает, что её бизнес расширится от поставок аппаратного обеспечения для искусственного интеллекта до строительства и непрерывной эксплуатации вычислительной инфраструктуры.
Hard Egg Innovation будет предоставлять партнёрам по вычислительным мощностям услуги по строительству серверных помещений, развёртыванию вычислительных кластеров и последующему эксплуатационному обслуживанию. На этапе строительства серверных помещений необходимо настроить серверные стойки, системы электроснабжения и распределения, охлаждения, сетевого подключения и мониторинга работы; после ввода вычислительного кластера в эксплуатацию также потребуется мониторинг состояния оборудования, распределение задач, управление использованием ресурсов и устранение неисправностей. Компания планирует соединить различные вычислительные центры через единую диспетчерскую платформу, чтобы разрозненно развёрнутое оборудование сформировало вычислительную сеть, способную предоставлять услуги внешним пользователям.
Вертикальные отраслевые приложения будут в первую очередь ориентированы на компании, занимающиеся человекоподобными роботами и беспилотными летательными аппаратами. В процессе разработки таким устройствам необходимо обрабатывать изображения, видео, траектории движений и данные с датчиков, а также проводить обучение моделей, имитационное моделирование и вывод на месте. Hard Egg Innovation планирует предоставлять относительно лёгкие вычислительные услуги Token, чтобы компании, занимающиеся роботами и беспилотниками, могли вызывать вычислительные ресурсы в зависимости от этапа разработки и развёртывания, не создавая полный вычислительный кластер для каждого отдельного проекта.
В настоящее время Hard Egg Innovation уже получила совокупный объём предварительных потребностей в услугах на сумму более 1 миллиарда долларов США, включая поставщиков облачных услуг, предприятия в области воплощённого интеллекта и компании, занимающиеся моделями искусственного интеллекта. Соответствующие предварительные заявки ещё не полностью преобразованы в формальные контракты на услуги, поэтому их нельзя напрямую приравнивать к подтверждённому строительному доходу или заказам на оборудование, но они могут служить основой для последующего планирования вычислительных узлов и расширения кластеров.
Дальнейший прогресс в реальном строительстве будет сосредоточен на выборе местоположения первых распределённых вычислительных узлов, строительстве серверных помещений, установке серверных кластеров и подключении к диспетчерской платформе. Только после объявления конкретного местоположения узлов, масштаба оборудования и времени ввода в эксплуатацию можно будет дополнительно оценить фактический объём вычислительных мощностей и потребности в закупке инфраструктуры, сформированные в результате данного бизнеса AI Token-фабрики.










