跳到正文
原文
Hugging Face Blog·· 2024-07-23精选AI 评分95

Hugging Face 上线 Llama 3.1 405B/70B/8B 模型及全栈集成指南

Llama 3.1 - 405B, 70B & 8B with multilinguality and long context

AI 导读

Hugging Face 正式上架 Meta 发布的 Llama 3.1 系列模型,包含 8B、70B 和 405B 三种尺寸的基座与指令微调版本,以及 Llama Guard 3 和 Prompt Guard 安全模型。

推荐理由

原文详细列出了 Llama 3.1 各尺寸模型的显存需求、量化方案及微调代码,为开发者评估部署成本和集成路径提供了具体参考。

来源:Hugging Face Blog · huggingface.co