Hugging Face Blog·· 2021-11-19AI 评分30
Hugging Face 演示利用 Intel 技术加速 PyTorch 分布式微调
Accelerating PyTorch distributed fine-tuning with Intel technologies
AI 导读
Hugging Face 展示如何利用 Intel Xeon Scalable CPU、Intel extension for PyTorch 及 oneCCL 库,在 Ice Lake 架构服务器上加速 PyTorch 分布式训练。该方案通过 BERT 模型在 MRPC 数据集上的微调实验,验证了从单节点扩展至多节点集群时的性能提升与成本优化潜力。
来源:Hugging Face Blog · huggingface.co