Репортаж от Wedoany，Компания Meituan 6 июля официально опубликовала в открытом доступе свою новую модель большого языка с триллионами параметров LongCat-2.0. В тот же день компания Moore Threads на основе универсальной вычислительной карты ИИ для обучения и вывода MTT S5000 и программного стека MUSA быстро завершила адаптацию этой модели. Работы по адаптации охватили все этапы цепочки: загрузку модели, запуск механизма вывода, оптимизацию ключевых операторов, проверку развертывания и верификацию точности, что позволило обеспечить стабильный и эффективный вывод LongCat-2.0 на MTT S5000, предоставив разработчикам и корпоративным клиентам более удобный путь развертывания модели.
LongCat-2.0 — это новая модель большого языка MoE с триллионами параметров, разработанная Meituan. Общее количество параметров составляет 1,6 трлн, среднее количество активируемых параметров — около 48 млрд, динамический диапазон — от 33 до 56 млрд. Модель специально разработана для сценариев Agentic Coding, изначально поддерживает сверхдлинный контекст в 1 млн токенов и использует собственный механизм разреженного внимания (LSA), архитектуру ScMoE с перекрестными межслойными соединениями и механизм динамической активации экспертов с нулевыми вычислениями для эффективного использования ресурсов и многозадачной координации. Комплексные результаты оценки показывают, что LongCat-2.0 демонстрирует отличные результаты в сценариях Code и General Agent, став одной из популярных основных моделей ИИ-агентов в глобальном сообществе разработчиков.
Техническая команда Moore Threads, используя высокопроизводительный механизм вывода SGLang-MUSA и программную экосистему MUSA, провела полную адаптацию цепочки от совместимости фреймворков до оптимизации производительности, ориентируясь на структуру модели и характеристики вывода LongCat-2.0.
Что касается аппаратной поддержки, MTT S5000 обладает аппаратным ускорением FP8, обеспечивая высокую вычислительную мощность, большой объем видеопамяти и высокую пропускную способность на одной карте, что обеспечивает стабильную поддержку для ввода длинного контекста, чтения/записи KV Cache и высококонкурентного вывода. Благодаря совместной оптимизации механизма вывода SGLang-MUSA и программного стека MUSA, LongCat-2.0 на MTT S5000 может более полно раскрыть производительность вывода, повысить эффективность ответа онлайн-сервисов и пропускную способность системы.
Moore Threads использует стандартизированный инженерный подход, формируя процессы из таких этапов, как анализ структуры модели, загрузка весов, совместимость фреймворков вывода, верификация операторов и тестирование развертывания, что позволяет LongCat-2.0 быстро пройти верификацию вывода на MTT S5000. Такой подход способствует снижению порога миграции и развертывания передовых моделей на китайских вычислительных платформах.
Ориентируясь на такие сценарии, как AI-кодинг, рабочие процессы агентов, ответы на вопросы на основе корпоративных баз знаний и анализ длинных документов, Moore Threads провела верификацию на уровне развертывания цепочки вывода LongCat-2.0. Благодаря совместной оптимизации на уровне фреймворков, операторов и планирования, MTT S5000 может предоставить инфраструктуру вывода, сочетающую производительность, стабильность и масштабируемость.
Реализация поддержки модели LongCat-2.0 с первого дня (Day-0) стала практикой глубокого взаимодействия между китайскими большими моделями и китайскими чипами. Moore Threads заявила, что в будущем продолжит опираться на экологическую совместимость программного стека MUSA для адаптации возможностей передовых моделей, ускоряя внедрение инноваций в области больших моделей с помощью китайской инфраструктуры универсальных GPU.
