跳到正文
原文
Hugging Face Blog·· 2025-03-07AI 评分50

Hugging Face 发布 React Native 端侧 LLM 推理指南

LLM Inference on Edge: A Fun and Easy Guide to run LLMs via React Native on your Phone!

AI 导读

Hugging Face 推出基于 React Native 的移动端 LLM 推理教程,支持在 Android 和 iOS 设备上本地运行模型。该方案利用 llama.rn 加载 GGUF 文件,推荐 DeepSeek-R1-Distill-Qwen-1.5B 等小参数模型以平衡性能与隐私。

来源:Hugging Face Blog · huggingface.co