Hugging Face Blog·· 2023-08-08精选AI 评分73
Hugging Face 发布 Swift Transformers 等工具以支持在苹果设备运行 LLM
Releasing Swift Transformers: Run On-Device LLMs in Apple Devices
AI 导读
Hugging Face 发布 swift-transformers、swift-chat 及更新的模型导出工具,旨在帮助开发者在 Mac 和 iPhone 等苹果设备上通过 Core ML 运行 Llama 2 等大语言模型。
推荐理由
原文提供了在苹果设备上运行大语言模型的完整工具链和转换指南,开发者可据此评估本地化部署的可行性。
来源:Hugging Face Blog · huggingface.co