Hugging Face 与 NVIDIA NIM 合作加速部署超 10 万 LLM

Hugging Face 联合 NVIDIA NIM 解锁超 100,000 个 LLM 的快速可靠部署。NIM 提供单一 Docker 容器，自动识别模型格式、架构及量化方式，并智能选择 TensorRT-LLM、vLLM 或 SGLang 后端以优化推理性能。