Китайская компания MiniMax привлекла 16 млрд гонконгских долларов на разработку больших языковых моделей

Репортаж от Wedoany，10 июля компания MiniMax завершила очередной раунд финансирования на общую сумму около 16 млрд гонконгских долларов. В сделке приняли участие более сотни институциональных инвесторов, коэффициент покрытия заявок составил 7 раз, а объем эмиссии был увеличен с первоначальных примерно 1,8 млрд долларов США до более чем 2 млрд долларов США. Привлеченные средства будут направлены в первую очередь на развитие AI-инфраструктуры, исследования и разработку моделей, инжиниринг агентов и глобальное управление продуктами.

Данный раунд финансирования состоит из двух частей: размещения новых акций и беспроцентных конвертируемых облигаций. Размещение 35,6 млн новых акций класса A, как ожидается, привлечет около 9,54 млрд гонконгских долларов, а объем беспроцентных конвертируемых облигаций составит 6,5 млрд гонконгских долларов. MiniMax планирует направить около 80% привлеченных средств на AI-инфраструктуру и исследования и разработку моделей. Направление использования средств не предполагает обычного расширения бизнеса, а заключается в дальнейшем увеличении инвестиций в вычислительные кластеры, обучение моделей, инференс-сервисы и разработку продуктов на основе агентов.

Разработка больших языковых моделей требует постоянного удовлетворения двух типов потребностей в вычислительных мощностях: обучение и инференс. Этап обучения включает обработку огромных объемов данных, распределенные вычисления, обновление параметров модели и многочисленные эксперименты. Этап инференса требует от модели поддержания низкой задержки, высокой степени параллелизма и стабильной производительности при реальных запросах пользователей. По мере расширения контекстного окна, перехода моделей к мультимодальности и задачам агентов, объем текста, изображений, видео, кода, результатов работы инструментов и исторических состояний, обрабатываемых за одну задачу, постоянно растет, что требует синхронного расширения вычислительных мощностей, хранилищ, сетей и инженерного планирования.

Последняя флагманская модель MiniMax, M3, сконцентрировала техническое направление на кодировании, агентах, сверхдлинном контексте и нативной мультимодальности. Модель использует архитектуру разреженного внимания MiniMax Sparse Attention, поддерживает контекст до 1 млн токенов и может обрабатывать изображения, видео и управлять рабочим столом. При контексте в 1 млн токенов объем вычислений на один токен в M3 снизился примерно до одной двадцатой от предыдущего поколения моделей, скорость на этапе предварительного заполнения увеличилась более чем в 9 раз, а на этапе декодирования — более чем в 15 раз.

Инжиниринг агентов — еще одно ключевое направление инвестиций в этом раунде. Чтобы модель могла выполнять реальную работу, она не должна ограничиваться генерацией текста или кода; ей необходимо понимать цели, разбивать задачи на подзадачи, вызывать инструменты поиска и офисные приложения, читать файлы, выполнять программы, проверять результаты и корректировать следующие шаги на основе промежуточной обратной связи. Инжиниринг управления агентами требует решения проблем, связанных с интерфейсами инструментов, состоянием задач, контролем доступа, долговременной памятью, восстановлением после ошибок и оценкой выполнения, чтобы модель могла непрерывно работать в длинных цепочках задач.

M3 уже расширила свои возможности кодирования до исправления программных ошибок, фронтенд- и бэкенд-разработки, оптимизации производительности и выполнения в терминале. С помощью интерактивной среды симуляции пользователей модель обучается обрабатывать уточнения требований, обсуждение решений, корректировки на основе обратной связи и итерации сложных проектов. Модель больше не выполняет только одноразовые инструкции, а пытается совместно с разработчиками продвигать программные задачи в непрерывных сессиях.

В настоящее время MiniMax сформировала систему моделей для языка, видео, речи, изображений и музыки, а также запустила кодового агента, генерацию видео, генерацию аудио, приложения с AI-персонажами и корпоративную платформу для разработки. После поступления 16 млрд гонконгских долларов конкретными направлениями инвестиций станут расширение AI-инфраструктуры, обучение M3 и последующих моделей, инжиниринг управления агентами, оптимизация вычислений для длинного контекста и развертывание мультимодальных продуктов.