Hugging Face Blog·· 2021-09-14AI 评分44
Hugging Face 发布 Optimum:面向大规模 Transformer 的开源优化工具包
Introducing Optimum: The Optimization Toolkit for Transformers at Scale
AI 导读
Hugging Face 推出开源库 Optimum,旨在解决 Transformer 模型在生产环境中的规模化部署难题。该工具包通过与硬件合作伙伴协作,抽象了量化、稀疏化等加速技术的复杂性,帮助工程师在特定硬件上实现高效训练与推理。
来源:Hugging Face Blog · huggingface.co