Hugging Face Blog·· 2023-09-22AI 评分40
Hugging Face 推出面向 PRO 用户的 Inference API
Inference for PROs
AI 导读
Hugging Face 推出 Inference for PRO,为付费用户提供 Meta Llama 3、Mixtral 8x7B 等精选模型的专属 API 端点及更高速率限制。该服务基于 text-generation-inference 实现超快推理,支持通过 HTTP POST 或 huggingface_hub Python 库调用,适用于原型开发而非重型生产环境。
来源:Hugging Face Blog · huggingface.co