Hugging Face 发布 vLLM transformers 后端原速支持

Hugging Face 宣布 transformers 库的 vLLM 建模后端现已实现与 vLLM 原生手写实现相当或更快的推理速度。用户只需添加 --model-impl transformers 标志，即可在无需修改代码的情况下利用 vLLM 的连续批处理和自定义注意力内核进行高效推理。