Hugging Face Blog·· 2025-06-03AI 评分53
Hugging Face TRL 发布 vLLM 共置模式以优化 GRPO 训练效率
No GPU left behind: Unlocking Efficiency with Co-located vLLM in TRL
AI 导读
Hugging Face TRL 引入 vLLM 共置（colocate）模式，允许训练和推理在同一组 GPU 上共享资源，消除了服务器模式下因进程分离导致的 GPU 空闲等待。
来源：Hugging Face Blog · huggingface.co