Hugging Face Blog·· 2024-02-29AI 评分28
Hugging Face 展示在 Intel Gaudi 2 上使用 Optimum Habana 运行 Llama 2 文本生成流水线
Text-Generation Pipeline on Intel® Gaudi® 2 AI Accelerator
AI 导读
Hugging Face 演示如何利用 Optimum Habana v1.10.4 和自定义流水线类，在 Intel Gaudi 2 AI 加速器上高效运行 Llama 2（7b/13b/70b）模型。
来源：Hugging Face Blog · huggingface.co