01一、摩尔线程开源 Megatron-MUSA-Titan:万卡集群、万亿参数 MoE 训练基建
展开全文
10 月 28 日,摩尔线程宣布开源大模型训练基础设施项目 Megatron-MUSA-Titan,基于自家全功能 GPU,面向万卡级集群中万亿参数 MoE 模型的训练需求,覆盖预训练与强化学习两大场景。技术上支持 blockwise FP8 训练,结合 DeepEP 与 ACE 异步通信引擎加速 MoE 的 Token 分发与结果合并,实现专家并行与计算的通算重叠;同时支持 slime、miles 强化学习框架协同,结合 Megatron 训练与 SGLang 样本生成,打通预训练到 RL 的训练链路。官方称已在万卡级集群的万亿参数 MoE 预训练中长期应用,“实现高 MFU 与长稳训练”。划线:国产 GPU 的叙事正在从“能用”转向“好用”——开源训练基建是 MUSA 生态的拼图,节奏卡在 IPO 后的首次公开亮相。诚实标注:性能说法均为官方口径、无第三方验证。(IT之家/新浪科技(10-28,摩尔线程官方口径))



EDITORIAL · 痛叔锐评
AI 叙事,正在被翻译成 AI 账本
展开本期锐评 +
同样是烧钱的 AI 财报,市场给了两种判罚:微软 Azure 增速 48%、RPO 6770 亿锁住未来、自由现金流还超预期 100 亿——奖;谷歌云暴涨 103% 但自由现金流连续两季为负、2026 年 capex 指引近 2000 亿美元——罚。奖与罚之间,隔的不是业务好坏,而是账本:市场不再为“AI 故事”付钱,开始为“AI 现金流”定价。Pichai 在播客里承认谷歌云要“放弃短期收入”保 DeepMind 的算力——连谷歌的算力都不够分了,说明 AI 竞争的约束条件已经从“有没有模型”变成“有没有算力、有没有现金流”。上一期 SK 海力士用 79.7% 的利润率证明卖铲子的钱最硬,这一期微软用 Azure 的 331.7 亿美元证明云的钱最稳——AI 的下半场,叙事要一句一句翻译成账本,翻译不出来的,就跌 8% 给你看。明晨亚马逊交卷,AWS 的账本见分晓。