Hugging Face Blog·· 2025-07-09AI 评分55
Hugging Face 分享 AMD MI300X 自定义内核开发指南
Creating custom kernels for the AMD MI300
AI 导读
Hugging Face 联合 AMD 发布了针对 MI300X GPU 的自定义内核优化指南,旨在提升 Llama 3.1 405B 在 VLLM 中的 FP8 推理性能。
来源:Hugging Face Blog · huggingface.co
Creating custom kernels for the AMD MI300
Hugging Face 联合 AMD 发布了针对 MI300X GPU 的自定义内核优化指南,旨在提升 Llama 3.1 405B 在 VLLM 中的 FP8 推理性能。
来源:Hugging Face Blog · huggingface.co