跳到正文

#Hugging Face

今日 0 条
3月11日周二
3月7日周五
3月4日周二
  1. Hugging Face Blog65

    Cohere For AI 发布 Aya Vision 8B/32B 开源多模态模型

    Cohere For AI 推出 Aya Vision 8B 和 32B 两款开源权重视觉语言模型(VLM),旨在解决多模态模型的多语言性能挑战。该系列基于 SigLIP2 视觉编码器和 Aya Expanse 语言模型,采用动态图像分块、Pixel Shuffle 降采样以及多模态模型合并等技术,支持 23 种语言的图像描述、视觉问答及 OCR 等任务。

    推荐理由:Cohere For AI 发布 Aya Vision 系列开源多模态模型,通过合成标注与模型合并技术提升23种语言下的视觉理解能力。

2月28日周五
2月27日周四
2月25日周二
  1. Hugging Face Blog78

    Hugging Face 发布 FastRTC:面向 Python 的实时通信库

    Hugging Face 推出 FastRTC,这是一个专为 Python 设计的实时通信库,旨在简化实时音频和视频 AI 应用的构建。它内置了自动语音检测、轮次管理以及基于 Gradio 的 UI,支持 WebRTC 和 WebSocket,并可一键部署为 FastAPI 应用或获取免费电话号码进行通话测试。

    推荐理由:该库通过封装 WebRTC 和自动语音检测,让 Python 开发者能低门槛构建实时音视频 AI 应用,并支持快速部署与电话接入。

2月24日周一
  1. Hugging Face Blog62

    Hugging Face 推出 Remote VAEs 以通过 Inference Endpoints 进行解码

    Hugging Face 发布实验性功能 Remote VAEs,允许用户将潜在空间扩散模型的 VAE 解码过程委托给远程端点,从而降低本地 GPU 的显存占用并避免分块解码带来的质量损失。

    推荐理由:原文提供了将 VAE 解码委托给远程端点的代码示例和显存对比数据,帮助开发者在低显存设备上优化扩散模型推理性能。

2月21日周五
2月20日周四
  1. Hugging Face Blog78

    Hugging Face 发布 SmolVLM2 系列模型,支持全设备视频理解

    Hugging Face 发布 SmolVLM2 系列模型,包含 2.2B、500M 和 256M 三种参数规模,旨在让视频理解能力在所有设备上运行。SmolVLM2 2.2B 在 Video-MME 基准测试中表现优于现有 2B 级模型,而 500M 和 256M 版本则提供了极小的内存占用。

    推荐理由:原文给出了三种参数规模的视频理解模型及端侧部署方案,读者可以据此评估小模型在本地设备上的实际可用性。

2月19日周三
2月18日周二
2月14日周五
  1. Hugging Face Blog73

    Hugging Face 用 Math-Verify 重新评估 Open LLM Leaderboard 全部模型

    Hugging Face 使用 Math-Verify 对 Open LLM Leaderboard 上所有 3,751 个提交模型进行了重新评估,以解决旧版 MATH-Hard 任务中因格式解析和符号比较导致的评分偏差问题。

    推荐理由:原文展示了 Math-Verify 修复旧评估器缺陷的具体案例及重测数据,为开发者提供了更可靠的模型数学能力对比依据。

2月13日周四
  1. Hugging Face Blog60

    Hugging Face 博客详解十亿级分类与嵌入推理的成本优化方案

    Hugging Face 官方博客发布技术指南,详细解析了如何在十亿级规模下优化文本分类、文本嵌入及视觉嵌入的推理成本与延迟。文章通过对比 DistilBERT、ModernBERT 和 ColQwen2 等模型在 NVIDIA L4 GPU 上的表现,给出了具体的批量大小(Batch Size)和虚拟用户数(VUs)配置建议,并指出视觉嵌入任务因架构复杂导致成本显著高于纯文本任务。

    推荐理由:原文提供了针对十亿级推理任务的硬件选型与参数调优实测数据,读者可据此评估大规模分类和嵌入场景下的成本优化路径。

2月12日周三
2月11日周二
  1. Hugging Face Blog65

    Open R1 发布 OpenR1-Math-220k 数据集及社区进展更新

    Open R1 项目发布 OpenR1-Math-220k 大规模数学推理数据集,该数据集在 512 块 H100 GPU 上本地生成,包含经过 Math Verify 和 Llama3.3-70B-Instruct 双重验证的 220k 条正确推理轨迹。

    推荐理由:原文公开了基于本地算力生成的大规模数学推理数据集及过滤流程,并展示了通过微调复现 DeepSeek R1 蒸馏效果的具体实验数据。

2月10日周一
2月4日周二
  1. Hugging Face Blog80

    Hugging Face 开源 DeepResearch 复现框架

    Hugging Face 发布开源项目 Open Deep Research,旨在复现 OpenAI Deep Research 的功能并公开其智能体框架。该项目利用 smolagents 库构建代码代理(CodeAgent),在 GAIA 验证集上达到 55.15% 的成绩,优于此前开源框架约 46% 的水平。

    推荐理由:Hugging Face 开源了基于 smolagents 的 DeepResearch 复现框架,展示了代码代理在 GAIA 基准测试中相比传统 JSON 动作生成的显著性能提升。

2月2日周日
  1. Hugging Face Blog65

    Hugging Face 发布 Open-R1 项目进展:复现 DeepSeek-R1 训练管线与数据

    Hugging Face 更新 Open-R1 项目进展,旨在复现 DeepSeek-R1 缺失的训练管线和合成数据。团队已在 MATH-500 基准上验证评估结果,并将 GRPO 集成至 TRL v0.14 以支持并行训练。

    推荐理由:原文公开了复现 DeepSeek-R1 的训练管线与合成数据生成细节,提供了可参考的工程实现方案。

1月31日周五
  1. Hugging Face Blog28

    Hugging Face 发布 AI 艺术工具通讯首期:回顾 2024 Flux.1 等开源模型里程碑

    Hugging Face 推出《AI tools for Art Newsletter》首期,回顾 2024 年图像与视频生成领域的关键突破。文章指出 Flux.1 在多项基准测试中超越 Midjourney v6.0 和 DALL·E 3,成为开源图像生成的新 SOTA。此外,InstantID 等免训练个性化技术显著提升了基于 SDXL 的零样本肖像生成质量。

1月30日周四
1月28日周二
  1. Hugging Face Blog65

    Hugging Face 启动 Open-R1 项目以完全复现 DeepSeek-R1

    Hugging Face 宣布启动 Open-R1 项目,旨在系统性重建 DeepSeek-R1 的数据和训练流程。该项目计划通过蒸馏高质量推理数据集、复现纯强化学习管线以及展示多阶段训练方法,来填补官方未公开代码和数据集的空白,推动开源推理模型的发展。

    推荐理由:原文详细拆解了 DeepSeek-R1 的训练配方并规划了复现路径,为社区提供了构建开源推理模型的具体方法论和数据策略参考。

  2. Hugging Face Blog70

    Hugging Face Hub 集成 fal、Replicate 等四家 Serverless 推理提供商

    Hugging Face 宣布在 Hub 模型页面及客户端 SDK 中正式集成 fal、Replicate、Sambanova 和 Together AI 四家 Serverless 推理提供商。用户可通过自定义 API Key 直连或经 HF 路由两种模式调用 DeepSeek-R1 等模型,PRO 用户每月获 $2 跨提供商通用额度。

    推荐理由:原文展示了在 Hub 模型页直接调用多家第三方 Serverless 推理服务的统一入口与计费模式,为开发者提供了更灵活的模型部署选择。

1月27日周一
  1. Hugging Face Blog65

    Diffusers 团队解析开源视频生成模型现状及低显存推理优化指南

    Hugging Face Diffusers 团队发布博客,综述了当前开源视频生成模型(如 CogVideoX, Hunyuan, LTX-Video)的能力、局限性及技术架构。

    推荐理由:文章梳理了开源视频生成模型的现状与局限,并提供了在 Diffusers 中通过量化、卸载等优化手段降低显存需求及微调的具体代码方案。

1月24日周五
  1. Hugging Face Blog68

    Hugging Face smolagents 新增对视觉语言模型的支持

    Hugging Face 宣布其开源智能体框架 smolagents 现已原生支持视觉语言模型(VLM)。该更新允许在智能体启动时直接传入图像列表,或通过回调函数在每一步执行后动态将截图等视觉数据注入内存。

    推荐理由:smolagents 原生支持视觉语言模型,通过回调机制动态注入图像,使智能体能自主浏览网页并处理视觉信息。

1月23日周四
  1. Hugging Face Blog65

    Hugging Face 发布 SmolVLM-256M 与 SmolVLM-500M 超小型视觉语言模型

    Hugging Face 推出 SmolVLM-256M 和 SmolVLM-500M,其中 256M 版本号称是全球最小的视觉语言模型(VLM)。新模型采用更小的 SigLIP base patch-16/512 视觉编码器以支持更大图像分辨率,并优化了 tokenization 策略,在 transformers、MLX 和 ONNX 中可直接加载运行。

    推荐理由:官方发布了256M和500M参数的SmolVLM,展示了在极小参数量下保持多模态性能的技术权衡与优化路径。

1月22日周三
1月16日周四
1月15日周三
  1. Hugging Face Blog62

    Hugging Face 发布高速静态嵌入模型 static-retrieval-mrl-en-v1 和 static-similarity-mrl-multilingual-v1

    Hugging Face 发布两款新的静态嵌入模型 sentence-transformers/static-retrieval-mrl-en-v1(英语检索)和 sentence-transformers/static-similarity-mrl-multilingual-v1(多语言相似度)。

    推荐理由:官方发布了在CPU上比主流模型快100至400倍的静态嵌入模型,并公开了完整的训练策略与脚本,为端侧部署提供了高效方案。

1月13日周一
1月10日周五
1月9日周四
12月31日周二
  1. Hugging Face Blog82

    Hugging Face 发布 smolagents:支持代码动作的轻量级智能体库

    Hugging Face 推出 smolagents,这是一个旨在简化语言模型智能体能力的轻量级库。其核心特性是 CodeAgent,允许智能体以 Python 代码形式编写动作,相比传统的 JSON 工具调用具有更好的组合性和通用性,并支持通过 E2B 进行沙箱安全执行。

    推荐理由:该库通过让智能体直接编写代码而非JSON来执行动作,并提供了沙箱执行与Hub集成,为构建灵活且安全的AI工作流提供了新的工程范式。

12月24日周二
  1. Hugging Face Blog68

    Hugging Face 发布 PyTorch GPU 显存可视化与估算教程

    Hugging Face 发布教程指导如何使用 PyTorch 内置工具可视化训练过程中的 GPU 显存占用。文章详细解析了模型参数、优化器状态、激活值等组件的显存构成,并提供了一套估算总显存需求的数学公式及启发式方法。

    推荐理由:文章拆解了PyTorch显存快照工具的使用,并给出了基于模型参数和激活值的显存估算公式,有助于开发者定位训练中的内存瓶颈。