跳到正文

#Hugging Face

今日 0 条
1月28日周二
  1. Hugging Face Blog70

    Hugging Face Hub 集成 fal、Replicate 等四家 Serverless 推理提供商

    Hugging Face 宣布在 Hub 模型页面及客户端 SDK 中正式集成 fal、Replicate、Sambanova 和 Together AI 四家 Serverless 推理提供商。用户可通过自定义 API Key 直连或经 HF 路由两种模式调用 DeepSeek-R1 等模型,PRO 用户每月获 $2 跨提供商通用额度。

    推荐理由:原文展示了在 Hub 模型页直接调用多家第三方 Serverless 推理服务的统一入口与计费模式,为开发者提供了更灵活的模型部署选择。

1月27日周一
  1. Hugging Face Blog65

    Diffusers 团队解析开源视频生成模型现状及低显存推理优化指南

    Hugging Face Diffusers 团队发布博客,综述了当前开源视频生成模型(如 CogVideoX, Hunyuan, LTX-Video)的能力、局限性及技术架构。

    推荐理由:文章梳理了开源视频生成模型的现状与局限,并提供了在 Diffusers 中通过量化、卸载等优化手段降低显存需求及微调的具体代码方案。

1月24日周五
  1. Hugging Face Blog68

    Hugging Face smolagents 新增对视觉语言模型的支持

    Hugging Face 宣布其开源智能体框架 smolagents 现已原生支持视觉语言模型(VLM)。该更新允许在智能体启动时直接传入图像列表,或通过回调函数在每一步执行后动态将截图等视觉数据注入内存。

    推荐理由:smolagents 原生支持视觉语言模型,通过回调机制动态注入图像,使智能体能自主浏览网页并处理视觉信息。

1月23日周四
  1. Hugging Face Blog65

    Hugging Face 发布 SmolVLM-256M 与 SmolVLM-500M 超小型视觉语言模型

    Hugging Face 推出 SmolVLM-256M 和 SmolVLM-500M,其中 256M 版本号称是全球最小的视觉语言模型(VLM)。新模型采用更小的 SigLIP base patch-16/512 视觉编码器以支持更大图像分辨率,并优化了 tokenization 策略,在 transformers、MLX 和 ONNX 中可直接加载运行。

    推荐理由:官方发布了256M和500M参数的SmolVLM,展示了在极小参数量下保持多模态性能的技术权衡与优化路径。

1月22日周三
1月16日周四
1月15日周三
  1. Hugging Face Blog62

    Hugging Face 发布高速静态嵌入模型 static-retrieval-mrl-en-v1 和 static-similarity-mrl-multilingual-v1

    Hugging Face 发布两款新的静态嵌入模型 sentence-transformers/static-retrieval-mrl-en-v1(英语检索)和 sentence-transformers/static-similarity-mrl-multilingual-v1(多语言相似度)。

    推荐理由:官方发布了在CPU上比主流模型快100至400倍的静态嵌入模型,并公开了完整的训练策略与脚本,为端侧部署提供了高效方案。

1月13日周一
1月10日周五
1月9日周四
12月31日周二
  1. Hugging Face Blog82

    Hugging Face 发布 smolagents:支持代码动作的轻量级智能体库

    Hugging Face 推出 smolagents,这是一个旨在简化语言模型智能体能力的轻量级库。其核心特性是 CodeAgent,允许智能体以 Python 代码形式编写动作,相比传统的 JSON 工具调用具有更好的组合性和通用性,并支持通过 E2B 进行沙箱安全执行。

    推荐理由:该库通过让智能体直接编写代码而非JSON来执行动作,并提供了沙箱执行与Hub集成,为构建灵活且安全的AI工作流提供了新的工程范式。

12月24日周二
  1. Hugging Face Blog68

    Hugging Face 发布 PyTorch GPU 显存可视化与估算教程

    Hugging Face 发布教程指导如何使用 PyTorch 内置工具可视化训练过程中的 GPU 显存占用。文章详细解析了模型参数、优化器状态、激活值等组件的显存构成,并提供了一套估算总显存需求的数学公式及启发式方法。

    推荐理由:文章拆解了PyTorch显存快照工具的使用,并给出了基于模型参数和激活值的显存估算公式,有助于开发者定位训练中的内存瓶颈。

12月23日周一
12月19日周四
12月18日周三
  1. Hugging Face Blog68

    IBM 等机构发布 Bamba-9B 混合 Mamba2 模型

    IBM、普林斯顿大学、卡内基梅隆大学和伊利诺伊大学香槟分校联合推出 Bamba-9B,这是一款完全使用开放数据训练的混合 Mamba2 模型。在 vLLM 框架下,该模型相比标准 Transformer 实现了 2.5 倍吞吐量提升和 2 倍延迟加速。目前模型已支持 transformers、vLLM、TRL 和 llama.cpp,并公开了包含有状态数据加载器在内的训练与微调配方。

    推荐理由:IBM 联合高校发布基于开放数据训练的混合 Mamba2 模型,提供显著推理效率提升及完整训练复现资源。

12月17日周二
  1. Hugging Face Blog70

    TII 发布 Falcon3 系列开源大语言模型

    Technology Innovation Institute (TII) 发布了 Falcon3 系列开源大语言模型,包含 1B、3B、7B、10B 以及 Mamba-7B 五个基础模型版本。

    推荐理由:原文详细列出了Falcon3系列各尺寸模型的基准测试得分及训练创新点,读者可据此评估其在小参数规模下的性能表现与开源许可适用性。

  2. Hugging Face Blog34

    Hugging Face 在 GCP 第 5 代 Xeon CPU 上基准测试语言模型性能

    Hugging Face 在 Google Cloud C4(第 5 代 Xeon)与 N2(第 3 代 Xeon)实例上对比文本嵌入和生成性能。C4 的文本嵌入吞吐量比 N2 高 10x 至 24x,文本生成高 2.3x 至 3.6x。考虑价格因素后,C4 在两项任务中分别保持 7x~19x 和 1.7x~2.9x 的 TCO 优势,证明轻量级 Agentic AI 可完全部署于 CPU。

12月16日周一
12月10日周二
12月9日周一
12月5日周四
  1. Hugging Face Blog78

    Hugging Face 介绍 Google 发布的 PaliGemma 2 视觉语言模型

    Hugging Face 博客介绍了 Google 新发布的 PaliGemma 2 视觉语言模型,该模型结合了 SigLIP 图像编码器与 Gemma 2 语言模型,提供 3B、10B 和 28B 三种参数规模,并支持 224x224、448x448 和 896x896 多种输入分辨率。

    推荐理由:原文给出了PaliGemma 2的多尺寸变体、分辨率支持及量化性能数据,读者可据此评估其在不同算力条件下的微调潜力与部署成本。

12月4日周三
  1. Hugging Face Blog33

    Hugging Face 推出 AraGen:基于 3C3H 指标的阿拉伯语 LLM 评测基准与排行榜

    Hugging Face 发布 AraGen,这是首个针对阿拉伯语大语言模型的生成式任务基准与排行榜。该框架引入 3C3H 评估指标,利用 LLM-as-judge 从正确性、完整性等六个维度综合衡量模型的事实准确性与可用性。AraGen 采用为期三个月的盲测动态评估策略,旨在解决数据污染问题并为低资源语言提供公平评测标准。

12月3日周二
12月2日周一
11月26日周二
  1. Hugging Face Blog68

    Hugging Face 发布 SmolVLM 2B 视觉语言模型

    Hugging Face 发布 SmolVLM,这是一款参数量为 2B 的视觉语言模型,在 transformers 库中实现了最低的显存占用(约 5.02 GB)。

    推荐理由:SmolVLM 在保持视觉问答能力的同时将显存占用降至约 5GB,为端侧部署和低成本微调提供了具体的性能基准与开源训练配方。

  2. Hugging Face Blog42

    Hugging Face 重构上传下载架构引入内容寻址存储

    Hugging Face Xet 团队重新设计 Hub 上传下载架构,引入内容寻址存储(CAS)以突破现有限制。新协议采用“智能写入、简单读取”理念,在字节级分析文件以优化去重与压缩,预计可将 Safetensors 等张量文件的上传速度提升 10-25%。该方案旨在解决大模型权重传输瓶颈,并为全球用户提供更低延迟和更安全的审计追踪。

11月25日周一
  1. Hugging Face Blog55

    Hugging Face 博客详解如何从零设计 SOTA 位置编码 RoPE

    Hugging Face 发布技术博客,详细演示了如何从简单的整数编码逐步迭代推导出当前最先进的旋转位置编码(RoPE)。文章分析了正弦位置编码的局限性,解释了为何在自注意力机制中采用乘法而非加法来保留语义信息,并展示了 RoPE 如何通过旋转矩阵实现相对位置的高效编码及向多维数据的扩展。

11月20日周三
  1. Hugging Face Blog38

    BAAI 推出首个多语言 LLM 辩论竞技场 FlagEval-Debate

    BAAI 发布首个多语言 LLM 辩论竞技场 FlagEval-Debate,支持中、英、阿、韩四种语言。该平台引入真实的多模型对抗机制,结合专家评审与用户投票双重指标,旨在解决传统静态评估缺乏区分度及孤立生成导致的偏见问题。开发者可自定义参数策略以优化模型在辩论场景下的推理表现。

  2. Hugging Face Blog42

    Hugging Face Xet 团队利用内容定义分块技术提升存储效率

    Hugging Face Xet 团队采用内容定义分块(CDC)技术,仅传输修改后的数据块以优化 Git LFS 存储。在 CORD-19 数据集基准测试中,该方案使平均下载时间从 51 分钟降至 19 分钟,存储占用从 8.9 GB 减至 3.52 GB。预计对 PyTorch 检查点实现 50% 去重率,可节省高达 100 TB 存储空间,计划于 2025 年初推出基于 Xet 的仓库。

11月19日周二
11月12日周二
11月5日周二
11月4日周一
  1. Hugging Face Blog45

    Argilla 2.4 发布:无需代码即可在 Hub 构建微调与评估数据集

    Argilla 2.4 推出无代码功能,允许用户直接从 Hugging Face Hub 导入数据集并定义问题以收集人类反馈。该工具作为开源数据中心平台,简化了社区协作标注流程,支持通过 UI 实时配置字段与问题类型。此更新降低了非技术人员参与高质量 AI 数据集构建的门槛,适用于微调或评估场景。

10月29日周二
10月28日周一