跳到正文

Hugging Face

Hugging Face 开源社区动态:热门模型与数据集、排行榜变化与开源生态的晴雨表。

最新精选

第 181–200 条 · 共 269 条
10月22日周二
  1. Hugging Face Blog60

    Outlines-core 0.1.0 发布:Rust 与 Python 的结构化生成

    dottxt 与 Hugging Face 联合发布 Outlines-core 0.1.0,这是 outlines 结构化生成核心算法的 Rust 移植版本。该更新使索引编译速度平均提升 2x,消除了首次运行的 JIT 延迟,并支持通过轻量级库将结构化生成能力集成到其他框架中。目前 Python 绑定已可用,未来计划扩展 JSON Schema 支持及更多语言绑定。

    推荐理由:原文说明了 Rust 重写带来的编译速度提升和跨语言绑定能力,读者可据此评估其在工程集成中的实际收益。

10月10日周四
  1. Hugging Face Blog65

    Hugging Face 发布 Gradio 5 安全审计报告

    Hugging Face 宣布对 Gradio 5 进行由 Trail of Bits 执行的独立安全审计,所有发现的安全漏洞已在发布前修复。审计覆盖了本地运行、云端部署、分享链接及供应链四个场景,识别出包括 CORS 配置错误导致的令牌窃取、SSRF、任意文件上传引发的 XSS、竞态条件以及远程代码执行等关键风险。

    推荐理由:官方披露了针对 Gradio 5 的独立安全审计结果及修复细节,开发者可据此评估升级后的默认安全性与潜在风险缓解措施。

10月9日周三
  1. Hugging Face Blog70

    Hugging Face 发布 Gradio 5 稳定版

    Hugging Face 正式发布 Gradio 5 稳定版,旨在帮助开发者用几行 Python 代码构建高性能、可扩展且安全的机器学习 Web 应用。该版本引入了服务器端渲染以消除加载延迟,更新了核心组件设计,并解锁了低延迟流式传输功能。用户可通过 `pip install --upgrade gradio` 进行升级,官方还推出了实验性 AI Playground 以辅助生成应用代码。

    推荐理由:官方详细列出了针对性能、设计和流式交互的具体改进,并提供了升级命令与示例空间,便于开发者评估迁移成本。

10月8日周二
  1. Hugging Face Blog63

    Hugging Face 发布动态推测解码方法以加速文本生成

    Intel Labs 与 Hugging Face 联合推出动态推测解码(Dynamic Speculative Decoding),该方法已作为 Transformers 库 v4.45.0 版本中辅助生成的默认模式,可将文本生成速度提升最高达 2.7x。

    推荐理由:原文提供了动态推测解码的具体实现代码和基准测试数据,读者可据此优化大模型推理速度。

9月25日周三
  1. Hugging Face Blog92

    Hugging Face 联合 Meta 发布 Llama 3.2 多模态与小型模型

    Hugging Face 宣布上线 Llama 3.2 系列共10个开放权重模型,包含支持视觉理解的 11B 和 90B 多模态版本,以及适用于端侧运行的 1B 和 3B 文本模型。其中 3B Instruct 版本在 IFEval 指令遵循基准上表现优异,且所有模型均已完成 Transformers、TGI 等主流框架的集成适配。需注意欧盟地区用户无法获得多模态版本的商业使用授权。

    推荐理由:原文详细列出了Llama 3.2系列模型的参数规模、基准测试数据及在Hugging Face生态中的部署方法,为开发者评估其视觉理解与端侧运行能力提供了直接依据。

9月18日周三
  1. Hugging Face Blog63

    Hugging Face 详解如何将 LLM 微调至 1.58bit 极限量化

    Hugging Face 发布技术博客,介绍如何通过特定技巧将现有的 Llama3 8B 模型微调至 BitNet 架构支持的 1.58bit 极限量化水平。团队通过引入动态 lambda 值逐步应用量化以解决权重分布突变导致的性能损失,最终在仅使用 10B tokens 微调的情况下使模型在 MMLU 基准测试中超越 Llama 1 7B。

    推荐理由:原文详细拆解了将 Llama3 微调至 1.58bit 的量化技巧与动态 lambda 调度策略,为低精度模型部署提供了可复现的工程路径。

9月17日周二
  1. Hugging Face Blog68

    Hugging Face 推出 Datasets SQL Console

    Hugging Face Hub 为 Datasets 推出了新的 SQL Console 功能,允许用户直接在浏览器中通过 SQL 查询、过滤和发现数据集。该控制台由 DuckDB WASM 驱动,支持完整的 DuckDB 语法及正则、JSON 等内置函数,且无需任何服务器依赖。用户可将查询结果导出为 Parquet 文件或通过链接分享,目前内存限制约为 3GB,适用于大多数常规查询场景。

    推荐理由:官方介绍了基于 DuckDB WASM 的浏览器内 SQL 查询功能,无需后端即可直接筛选和转换数据集,适合需要快速处理 Parquet 数据的开发者。

9月16日周一
  1. Hugging Face Blog63

    HuggingChat 推出 Community Tools 功能

    HuggingFace 在 HuggingChat 中发布 Community Tools 功能,允许用户将任何公开的 HuggingFace Space 转化为模型可直接调用的工具。

    推荐理由:官方展示了将任意 Space 转为工具的流程,并提供了 RAG 模板,读者可据此扩展聊天助手的多模态能力。

8月14日周三
  1. Hugging Face Blog60

    Hugging Face 复盘 Infini-attention 实验:为何其长上下文性能随压缩次数下降

    Hugging Face 团队分享了复现 Google Infini-attention 的实验结果,发现随着内存压缩次数增加,模型在长上下文任务中的性能显著下降且不可靠。

    推荐理由:作者详细记录了复现Infini-attention的调试过程与失败原因,揭示了长上下文扩展中压缩记忆的性能瓶颈及收敛难点。

8月12日周一
8月8日周四
  1. Hugging Face Blog65

    Hugging Face 宣布收购 XetHub 以优化大文件存储与协作

    Hugging Face 正式宣布收购西雅图初创公司 XetHub,旨在将其技术整合至 Hub 以替代 Git LFS 作为存储后端。XetHub 团队由前 Apple ML 基础设施成员组成,其核心技术支持 TB 级仓库的 chunked files 和去重功能,能显著减少如 Parquet 文件或 GGUF 模型更新时的重复上传量。

    推荐理由:原文披露了收购动机及具体技术场景,读者可据此理解 Hugging Face 如何通过替换存储后端解决超大模型文件的版本管理痛点。

7月31日周三
7月23日周二
  1. Hugging Face Blog95

    Hugging Face 上线 Llama 3.1 405B/70B/8B 模型及全栈集成指南

    Hugging Face 正式上架 Meta 发布的 Llama 3.1 系列模型,包含 8B、70B 和 405B 三种尺寸的基座与指令微调版本,以及 Llama Guard 3 和 Prompt Guard 安全模型。

    推荐理由:原文详细列出了 Llama 3.1 各尺寸模型的显存需求、量化方案及微调代码,为开发者评估部署成本和集成路径提供了具体参考。

7月22日周一
  1. Hugging Face Blog68

    Hugging Face 详解 WWDC 24 Core ML 新特性运行 Mistral 7B

    Hugging Face 发布教程,指导开发者利用 WWDC 24 引入的 Core ML 新特性在 Mac 上运行 Mistral 7B 模型。通过 Swift Tensor、Stateful Buffers 和块量化技术,该方案能将 70 亿参数模型的内存占用降至 4GB 以下。

    推荐理由:原文详细演示了利用WWDC 24新特性将Mistral 7B转换为Core ML模型并实现端侧高效推理的完整流程。

7月18日周四
  1. Hugging Face Blog65

    Hugging Face TGI 发布 Multi-LoRA 服务功能

    Hugging Face 为 Text Generation Inference (TGI) 推出 Multi-LoRA serving 功能,支持在单次部署的基础模型上动态加载并服务多达 30 个 LoRA 适配器。

    推荐理由:TGI 新增 Multi-LoRA 功能,允许在单一基础模型部署中动态加载多个微调适配器,显著降低多模型服务的运维成本与复杂度。

7月16日周二
7月1日周一
  1. Hugging Face Blog68

    Hugging Face 发布基于 Transformers Code Agent 的 GAIA 基准测试方案

    Hugging Face 使用基于 transformers.agents(现已升级为 smolagents)构建的 ReactCodeAgent 在 GAIA 基准验证集上取得 44.2% 的成绩,位列第一。该方案核心在于让 LLM 生成并执行 Python 代码而非 JSON,通过自底向上构建的安全解释器限制操作权限,并结合 Web 浏览、文件检查等工具及简单的规划组件实现多智能体协作。

    推荐理由:原文详细拆解了基于代码动作的 Agent 架构与安全执行机制,并展示了在 GAIA 基准上的具体得分与多智能体编排策略。

6月27日周四
  1. Hugging Face Blog86

    Google 发布 Gemma 2 开源大语言模型

    Google 发布了最新一代开源大语言模型 Gemma 2,包含 9B 和 27B 两种参数规模的基座与指令微调版本。该模型引入了滑动窗口注意力、Logit 软封顶、知识蒸馏和模型合并等四项主要技术进步,上下文长度为 8K tokens。Hugging Face 已同步提供 Transformers 集成、Inference Endpoints 部署支持以及基于 TRL 的微调示例代码。

    推荐理由:原文详细解析了Gemma 2在滑动窗口注意力、软封顶及知识蒸馏上的技术改进,并提供了基于Transformers的微调与部署指南。