跳到正文
原文
Hugging Face Blog·· 2021-11-04AI 评分35

Hugging Face 解析 Intel Ice Lake Xeon CPU 上 BERT 类模型推理优化

Scaling up BERT-like model Inference on modern CPU - Part 2

AI 导读

Hugging Face 详解利用 Intel oneAPI、oneDNN 及 IPEX 等软件栈优化 BERT 类模型在 Ice Lake Xeon CPU 上的推理性能。Ice Lake 相比 Cascade Lake 在 NLP 任务中实现最高 75% 的推理加速,通过集成 MKL 与 OpenMP 提升计算效率。

来源:Hugging Face Blog · huggingface.co