Meta 开源 Muse Spark Open：816B 旗舰模型双 Mac 可跑

Meta 于 10 月 15 日放出了 Muse Spark Open 的模型权重。这是 Meta Superintelligence Labs 的开源权重模型，总参数 816B，每个 token 激活 42B，原生多模态，支持 100 万 token 上下文。Meta 给它的定位是"迄今最强的美国开源权重模型"，主打长程 agent 任务、复杂软件工程和多步推理。

架构：256 个专家里每次只叫醒 8 个

Muse Spark Open 是一个稀疏混合专家（MoE）Transformer，核心参数全部写在官方 model card 里：

激活比例约 5%：生成每个 token 时，路由器从 256 个专家中挑 8 个参与计算，其余 248 个处于沉睡。这就是 816B 总参的模型只需要按 42B 的算力成本跑的原因。注意力块带输出门控和输出归一化（Gated Attention），QK-norm 开启，属于 2025 年以来主流实验室的稳定配置。

多模态输入由一个独立的 Perception Encoder 处理：1.8B 参数、50 层、隐藏维 1536、patch 大小 14×14，采用稀疏注意力（每 4 层一个全注意力层，外加最后一层），词符位置编码是绝对位置编码与 2D RoPE 的组合。这个 1.8B 的视觉塔把图像、视频帧和音频统一编码后送入语言模型。

模型在 Hugging Face 上提供 BF16 和 NVFP4 两种精度。BF16 权重文件总共 1.64TB（65 个 safetensors 分片）。官方给出的门槛：NVFP4 量化版需要约 700GB 显存，BF16 需要 2TB。Baseten 上的输出 token 定价为每百万 4.25 美元，实测吞吐约 134 token/s。

双 Mac Studio 方案：1TB 统一内存拼出一台"桌面超算"

整个发布里工程细节最密集的部分，是 Apple Silicon 上的部署方案。Meta 与 Apple 的 MLX 团队合作，让 NVFP4 量化的 Muse Spark Open 跑在两台配备 M5 Ultra 芯片、512GB 统一内存的 Mac Studio 上；内存减半的 256GB 机型则用四台组网，同样凑出 1TB。

M5 Ultra 每颗芯片的内存带宽是 1.2TB/s。MoE 每 token 只需读取 42B 激活参数对应的权重切片，这个带宽刚好够用。MLX 的张量并行把模型的每一层切到两台机器上，每台持有一半权重、承担一半计算，权重在推理过程中从不移动，跨机传输的只有微秒级的中间激活结果。机器之间用 Thunderbolt 5 直连，走 RDMA 协议。

Meta 用这套本地环境跑了一组实测：用 Muse Code（官方编程 agent）给开源 Mastodon 客户端 Ice Cubes 提交真实的 iOS 修改，包括 bug 修复、新功能和完整构建；还让它端到端驱动 DaVinci Resolve，逐帧审看素材、挑出高光片段并裁成竖版。全程没有调用云端模型。

这套配置的价格不便宜。HN 评论区有人算账：单台 256GB 的 M5 Ultra Mac Studio 约 11,299 美元，四台接近 45,000 美元；512GB 机型当时尚未开售。但也有开发者指出，单张 B300 GPU 加配套整机同样不菲，而 512GB 统一内存的桌面方案在 NVIDIA 产品线里找不到对应物。在 HN 讨论里，这套"两台 Mac Studio 当一台超算"的方案获得的关注度不亚于模型本身。

部署：五条路径与两套投机解码

Muse Spark Open 在发布当天即获得主流推理栈的全线支持，官方 dev blog 给出了逐条命令。

SGLang（BF16/NVFP4，单节点 4 卡示例）：

sglang serve \
  --model-path meta-models/Muse-Spark-Open-816B-A42B-NVFP4 \
  --tp-size 4 \
  --ep-size 4 \
  --quantization modelopt_fp4 \
  --moe-runner-backend flashinfer_trtllm \
  --mem-fraction-static 0.8 \
  --speculative-algorithm DFLASH \
  --speculative-draft-model-path RadixArk/Muse-Spark-Open-DFlash2 \
  --speculative-num-draft-tokens 8 \
  --enable-hierarchical-cache \
  --hicache-size 200 \
  --reasoning-parser muse \
  --tool-call-parser muse

vLLM（NVIDIA 与 AMD 均验证，DSpark 投机解码）：

VLLM_USE_RUST_FRONTEND=1
vllm serve meta-models/Muse-Spark-Open-816B-A42B-NVFP4 \
  --tensor-parallel-size 4 \
  --enable-expert-parallel \
  --max-model-len 1048576 \
  --reasoning-parser muse \
  --tool-call-parser muse \
  --enable-auto-tool-choice \
  --speculative-config '{"method":"dspark","model":"Inferact/Muse-Spark-Open-DSpark","num_speculative_tokens":7,"draft_sample_method":"probabilistic","rejection_sample_method":"block","enable_adaptive_verification":true}'

其他路径：TensorRT-LLM 在单个 4 卡 Blackwell 节点上服务 NVFP4 版本，注意力四路切分、256 个专家摊到各 GPU，跨节点扩展交给 NVIDIA Dynamo（预填充与解码分离，请求路由到已持有其上下文缓存的 worker）；Transformers 用 AutoModelForMultimodalLM 加载，自带张量并行与专家并行的 DistributedConfig；llama.cpp 支持 GGUF 量化版，可跑纯 CPU、CPU+GPU 混合或全 GPU，2-bit 量化版能塞进 256GB 内存的设备。

精度与生态的覆盖面：BF16 和 NVFP4 来自 Meta，FP8/MXFP4 来自 AMD，INT4/MXFP4（面向 Crescent Island）来自 Intel，GGUF 来自 Unsloth。后训练侧，TorchTitan、SGLang + Miles、NVIDIA NeMo AutoModel、HF TRL，以及 Fireworks 和 Together 的托管微调 API 都已就位。开源权重版还附带自研的 Helion GPU kernel（集成在 SGLang 里），在 NVIDIA 和 AMD GPU 上带来 1.03-3.95 倍的 kernel 级加速，AMD MI350 端到端提速 3%。

解码加速有一对官方 drafts：SGLang 的 DFlash V2 和 vLLM 的 DSpark。思路是训练一个小的草稿模型快速生成候选 token，大模型批量验证，通过则一次吐出多个 token。MoE 的大激活参数量配上小草稿模型，是在自托管场景压低单 token 成本的关键手段。

推理参数：reasoning effort 是个旋钮

Model card 明确了推荐配置：temperature = 1.0、top_p = 1.0、top_k 关闭。比较特别的是 reasoning_effort 参数，有 low / medium / high / xhigh 四档，默认 xhigh，对应思考预算从 8 到 512 token。聊天模板里写死了映射关系：{'low': 8, 'medium': 32, 'high': 256, 'xhigh': 512}。官方建议复杂问题求解、编码和 agent 任务用 high 或 xhigh，要快响应时降档。所有 benchmark 成绩都是在 xhigh 档测出的。

微调走 HF 的 SFTTrainer，LoRA 配置（r=16, alpha=32，挂 q/k/v/o 四组投影）即可在发布 checkpoint 上训练 adapter，训练时由 Transformers 自动分片。

Benchmark：与开源旗舰的横向对比

Meta 的对比对象是同类开源权重旗舰。Muse Spark Open 用 xhigh 推理档，对比组包括 Inkling、Nemotron 3 Ultra、Beam Mistral Large 4、Qwen3.8-2.4T-A95B、GLM 5.3（max）和 Kimi K3（max）。

（完整表还包含 Inkling、Nemotron 3 Ultra、Beam Mistral Large 4 三列，此处取代表性四列。）

几个值得展开的点：

Agent 能力是主打项。 JobBench 61.8、MCP-Atlas 89.2、OSWorld 80.4 都是这个量级开源模型里的最高分。MCP-Atlas 测多工具编排，OSWorld 测真实桌面环境操作，两项恰好对应 Meta 说的"多步规划、顺序调用工具、失败恢复"的训练目标。GLM 5.3 的 Kimi K3 在智能指数（AA Index 45 vs 39）和代码能力（DeepSWE 68 vs 60、Terminal-Bench 85.0 vs 76.4）上仍然领先。HN 评论区有开发者做了本地对比后反馈，Muse Spark Open 在首 token 延迟、吞吐和并发上不敌 GLM 5.3 Flash，也有人指出 1M token 上下文下 KV cache 需求会超过 200GB，长上下文的实际可用性存疑。

安全后训练是这版权重的独有工序。 开源权重意味着模型脱离平台护栏独立部署，Meta 对这个版本追加了安全后训练。数据点：越狱拒绝率 99.2%（内部基准），聚合公开基准（PolyGuard 网络子集、RedCode、CyberBench 2024）拒绝率 94.8%，对照的 Kimi K3 分别是 75.5% 和 70.2%；StrongREJECT v2（自适应攻击）下违规率 0.5%，对照组在 62.9-86.4 之间；MASK 诚实率 98.1%，Agentic Misalignment 违规率 0%。这套数字对应的发布前提是 Meta Superintelligence Scaling Framework 的安全评估门槛。

多模态输入是差异化项。 ZeroBench 50.0 对 Kimi K3 的 41.0，VideoMMEv2 61.5 对 65.4（Kimi 略胜），输入侧覆盖文/图/视频/音频四模态。对比组里的模型多数只收文本。

许可证：70% 情况下的自由与 2000 万美元门槛

Muse Model License 是 HN 讨论区争议最集中的部分。条款的实际内容：

1. 使用自由：绝大多数用途免费且无需另行授权，包括自部署、内部使用、研究，以及把模型作为自己产品功能的一部分（比如给自家应用加 AI 能力，只要不是转卖模型本身）。
2. 2000 万美元门槛：如果你的公司（含关联方）连续 12 个月总收入超过 2000 万美元，且业务是"模型即服务"（通过 API 或类似接口向第三方提供模型输出），就必须通知 Meta 并签单独协议，才能把它作为 MaaS 业务的一部分提供服务。
3. 署名要求：使用模型或其衍生模型的产品，须在界面上显著标注"Built with Muse Spark Open"。
4. 用途禁区：军事、武器开发、关键基础设施运营、非法毒品、造假欺诈等一长串负面清单。

HN 上围绕"这算不算开源"吵了几十楼。一方的立场：禁止领域限制就不是开源许可证，OSI 定义里的"自由 0"（任何目的的自由使用）被违反了，这是"open-washing"。另一方翻出维基百科的 open weights 词条：发布权重允许下载和运行，修改、微调、再分发取决于具体许可条款，Muse Model License 的限制条款落在行业惯例区间（Llama 系列许可证同样有月活门槛和用途禁区）。一条高赞评论的总结比较接近实况：对 700MB 显存门槛以下的个人开发者和绝大多数公司，这份许可证约等于免费；它真正约束的是 Anthropic、Google 这个量级的玩家不能拿它开托管服务。

获取渠道

权重在 Hugging Face（meta-models/Muse-Spark-Open-816B-A42B，发布当天 6 小时已 215 个 like， gated 需申请）。托管推理在 Baseten、Fireworks、Groq、Modal、Nebius、OpenRouter、Together AI 七家上线；云目录收录方为 Amazon SageMaker AI、Google Cloud Model Garden、Microsoft Foundry Models。MLX adapter 用于 Mac 部署。

对自托管用户，这套发布给出的信息已经足够规划落地路径：NVFP4 + 700GB 显存是数据中心方案，双 Mac Studio + 1TB 统一内存是桌面方案，GGUF 2-bit + 256GB 是低预算方案。一个 816B 参数的模型在发布当天就有从云到桌面的完整部署文档、五套推理栈的官方配置、两套投机解码 drafts 和全套微调工具链，这份工程配套本身就是这次发布里分量不轻的部分。