Hugging Face Blog·· 2023-12-05精选AI 评分65
Hugging Face 宣布支持 AMD Instinct GPU 的大语言模型开箱即用加速
AMD + 🤗: Large Language Models Out-of-the-Box Acceleration with AMD GPU
AI 导读
Hugging Face 宣布其 Transformers 库和 Text Generation Inference (TGI) 现已原生支持 AMD Instinct MI250 等 GPU，用户无需修改代码即可在 AMD 硬件上运行大语言模型。
推荐理由
原文展示了 AMD GPU 在无需修改代码的情况下运行 Hugging Face 模型的能力，并提供了与 NVIDIA A100 对比的性能基准数据。
来源：Hugging Face Blog · huggingface.co