Hugging Face Blog·· 2024-07-18精选AI 评分65
Hugging Face TGI 发布 Multi-LoRA 服务功能
TGI Multi-LoRA: Deploy Once, Serve 30 Models
AI 导读
Hugging Face 为 Text Generation Inference (TGI) 推出 Multi-LoRA serving 功能，支持在单次部署的基础模型上动态加载并服务多达 30 个 LoRA 适配器。
推荐理由
TGI 新增 Multi-LoRA 功能，允许在单一基础模型部署中动态加载多个微调适配器，显著降低多模型服务的运维成本与复杂度。
来源：Hugging Face Blog · huggingface.co