Американская компания Meta выпустила открытую весовую ИИ-модель с 816 млрд параметров, поддерживающую локальный запуск на компьютерах Apple

Репортаж от Wedoany，15 октября американская технологическая компания Meta официально выпустила открытую весовую модель искусственного интеллекта Muse Spark Open. Общее число параметров модели достигает 816 млрд, число активных параметров — 42 млрд, поддерживается контекстное окно в 1 млн токенов. Модель предназначена для сложной разработки программного обеспечения, многошагового рассуждения и задач ИИ-агентов, а также оптимизирована для чипа Apple M5 Ultra и может быть развёрнута локально с помощью двух рабочих станций Mac Studio.

Muse Spark Open использует нативную мультимодальную архитектуру и способна выполнять длительные процессы программирования, задачи программной инженерии и автономной обработки задач. Meta уже подключила эту модель к своему терминалу ИИ-программирования Muse Code и провела ряд тестов локального запуска, включая исправление ошибок программы, разработку новых функций и полную сборку программного обеспечения для открытого клиента Mastodon Ice Cubes, а также покадровый анализ материалов, отбор фрагментов и выполнение вертикальной обрезки с помощью видеоредактора DaVinci Resolve.

В части аппаратной адаптации модель работает на основе фреймворка машинного обучения Apple MLX. Одна рабочая станция Mac Studio с чипом M5 Ultra может быть оснащена до 512 ГБ унифицированной памяти, а комбинация двух устройств обеспечивает около 1 ТБ памяти. Пропускная способность памяти чипа M5 Ultra достигает 1,2 ТБ/с, что позволяет удовлетворять потребности в чтении данных во время инференса модели.

Meta также провела оптимизацию инференса для различных архитектур чипов; модель совместима с такими фреймворками инференса, как SGLang, vLLM, TensorRT-LLM и Apple MLX. На графических процессорах NVIDIA и AMD кастомные ядра Helion GPU обеспечивают ускорение на уровне ядер от 1,03 до 3,95 раза, при этом на платформе AMD MI350 сквозная производительность инференса повышается примерно на 3%.

Веса модели Muse Spark Open уже доступны для загрузки через Hugging Face, Amazon SageMaker AI, Google Cloud Model Garden и Microsoft Foundry Models, а также подключены к таким платформам инференс-сервисов, как Baseten, Fireworks AI, Groq, Modal, Nebius, OpenRouter и Together AI. Модель распространяется по лицензии Muse Model License, которая позволяет разработчикам использовать и настраивать её на определённых коммерческих условиях.