Hugging Face Blog·· 2026-08-18AI 评分39
Hugging Face 约束感知 GPU 分配器较 FIFO 调度提升利用率 33 个百分点
Same Cluster, 33 Points More Utilization: What Changed Was the Order
AI 导读
Hugging Face 推出约束感知 GPU 分配器，在相同硬件和工作负载下，GPU 利用率较 FIFO 调度最高提升 33 个百分点。该方案通过动态处理实时推理需求曲线并按优先级放置批量任务，使优先加权输出平均增长 52%，最高达 105%。
来源：Hugging Face Blog · huggingface.co