跳到正文
原文
Hugging Face Blog·· 2023-05-31AI 评分38

Hugging Face 发布 Amazon SageMaker LLM Inference Container

Introducing the Hugging Face LLM Inference Container for Amazon SageMaker

AI 导读

Hugging Face 推出专为 Amazon SageMaker 设计的 LLM Inference Container,基于 Text Generation Inference (TGI) 实现高性能部署。

来源:Hugging Face Blog · huggingface.co