跳到正文
原文
Hugging Face Blog·· 2022-08-11AI 评分28

Hugging Face ViT 模型在 Kubernetes 上的 TF Serving 部署指南

Deploying 🤗 ViT on Kubernetes with TF Serving

AI 导读

Hugging Face 展示了如何使用 Docker 和 Kubernetes 扩展 🤗 ViT 模型的 TensorFlow Serving 本地部署。该方案通过容器化 SavedModel 并配置 gRPC 请求处理,实现了支持多用户的高可用服务架构。

来源:Hugging Face Blog · huggingface.co