Hugging Face Blog·· 2021-11-04AI 评分35
Hugging Face 解析 Intel Ice Lake Xeon CPU 上 BERT 类模型推理优化
Scaling up BERT-like model Inference on modern CPU - Part 2
AI 导读
Hugging Face 详解利用 Intel oneAPI、oneDNN 及 IPEX 等软件栈优化 BERT 类模型在 Ice Lake Xeon CPU 上的推理性能。Ice Lake 相比 Cascade Lake 在 NLP 任务中实现最高 75% 的推理加速,通过集成 MKL 与 OpenMP 提升计算效率。
来源:Hugging Face Blog · huggingface.co