跳到正文
热点事件持续更新

AllenAI发布Olmo-core 3开源MoE训练基础设施

1 篇报道1 个报道来源9 小时前更新

先了解这件事

AI 综述

2026年10月1日,AllenAI发布了名为Olmo-core 3的开源训练基础设施。该系统专为扩展至万亿参数规模的混合专家(MoE)模型设计,通过集成专家并行、流水线并行和分布式优化器等关键技术,旨在提升大规模模型的训练效率。在NVIDIA B300 GPU上测试显示,相比前代系统,其训练吞吐量提升了约2.7倍。此外,Olmo-core 3还支持MXFP8低精度格式,以进一步优化显存占用,为构建超大规模MoE模型提供了高效的底层支持。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月1日
  1. Hugging Face Blog
    AllenAI 发布 Olmo-core 3:面向大规模 MoE 的开源训练基础设施

    AllenAI 发布 Olmo-core 3,这是一套专为扩展至万亿参数规模混合专家(MoE)模型设计的开源训练基础设施。该系统通过集成专家并行、流水线并行和分布式优化器等技术,在 NVIDIA B300 GPU 上实现了相比前代约 2.7 倍的训练吞吐量提升,并支持 MXFP8 低精度格式以进一步优化显存占用。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。