Google DeepMind·· 2026-04-22AI 评分35
Google DeepMind 提出 Decoupled DiLoCo：实现低带宽分布式 AI 训练
Decoupled DiLoCo: A new frontier for resilient, distributed AI training
AI 导读
Google DeepMind 推出 Decoupled DiLoCo 架构，支持在低带宽下跨数据中心异步训练 LLM。该方案利用 Gemma 4 模型验证，通过隔离硬件故障提升系统韧性，并在 2-5 Gbps 网络下比传统同步方法快 20 倍以上完成 12B 参数模型训练。
来源：Google DeepMind · deepmind.google