开发工具·EASYHUB 选读
Ai2 发布 Olmo-core 3:开放 MoE 训练栈扩展到万亿参数级

这次有什么变化
Ai2 发布 Olmo-core 3,重做面向大规模混合专家模型的开放训练基础设施,引入专家并行、流水线并行、分布式优化器、GPU 驻留路由和 MXFP8 等能力。官方称该栈已测试到 1.2 万亿参数、512 张 B300 的配置;在 8 张 B300 的 47B MoE 初步测试中,吞吐约为旧 FSDP 实现的 2.7 倍。Ai2 明确说明这些是系统性能测试,并不代表模型质量。
- 原文标题
- Introducing Olmo-core 3: Open, scalable training infrastructure for large MoEs
- 来源
- Ai2 · allenai.org
- 主题
- 开发工具
- 原文月份
- 2026-10
本页是 EasyHub 根据所列来源整理的简短选读,不是完整报道或原创采访。预览、计划开放与正式可用以摘要及原文说明为准。
本站摘要页面发布 · 内容说明