跳到正文

全部动态

今日 12 条
2月13日周四
  1. Hugging Face Blog60

    Hugging Face 博客详解十亿级分类与嵌入推理的成本优化方案

    Hugging Face 官方博客发布技术指南,详细解析了如何在十亿级规模下优化文本分类、文本嵌入及视觉嵌入的推理成本与延迟。文章通过对比 DistilBERT、ModernBERT 和 ColQwen2 等模型在 NVIDIA L4 GPU 上的表现,给出了具体的批量大小(Batch Size)和虚拟用户数(VUs)配置建议,并指出视觉嵌入任务因架构复杂导致成本显著高于纯文本任务。

    推荐理由:原文提供了针对十亿级推理任务的硬件选型与参数调优实测数据,读者可据此评估大规模分类和嵌入场景下的成本优化路径。

2月12日周三
2月11日周二
  1. Hugging Face Blog65

    Open R1 发布 OpenR1-Math-220k 数据集及社区进展更新

    Open R1 项目发布 OpenR1-Math-220k 大规模数学推理数据集,该数据集在 512 块 H100 GPU 上本地生成,包含经过 Math Verify 和 Llama3.3-70B-Instruct 双重验证的 220k 条正确推理轨迹。

    推荐理由:原文公开了基于本地算力生成的大规模数学推理数据集及过滤流程,并展示了通过微调复现 DeepSeek R1 蒸馏效果的具体实验数据。

2月10日周一
2月7日周五
  1. Mistral AI73

    Mistral AI 发布全新 le Chat 助手并推出 Pro/Team/Enterprise 服务层级

    Mistral AI 正式发布全新 le Chat AI 助手,支持 iOS 和 Android 平台,并引入 Pro、Team 及企业级私有预览服务。该助手具备高达 ~1000 words / sec 的 Flash Answers 快速响应能力、基于 Black Forest Labs Flux Ultra 的图像生成以及 Code interpreter 代码执行功能。

    推荐理由:原文详细列出了 Flash Answers、Code interpreter 及 Enterprise 私有预览等具体功能变化,读者可据此评估其作为通用助手与生产力工具的实际能力边界。

2月6日周四
2月4日周二
  1. Hugging Face Blog80

    Hugging Face 开源 DeepResearch 复现框架

    Hugging Face 发布开源项目 Open Deep Research,旨在复现 OpenAI Deep Research 的功能并公开其智能体框架。该项目利用 smolagents 库构建代码代理(CodeAgent),在 GAIA 验证集上达到 55.15% 的成绩,优于此前开源框架约 46% 的水平。

    推荐理由:Hugging Face 开源了基于 smolagents 的 DeepResearch 复现框架,展示了代码代理在 GAIA 基准测试中相比传统 JSON 动作生成的显著性能提升。

2月3日周一
  1. OpenAI News82

    OpenAI 发布 Deep Research 智能体

    OpenAI 推出名为 Deep Research 的新智能体,能够利用在线资源进行多步骤研究并生成详细报告。该工具旨在通过结合网络搜索与模型推理能力来辅助复杂的研究任务,目前向 Plus 和 Pro 用户开放。

    推荐理由:官方介绍了具备多步推理能力的研究智能体,展示了其整合在线信息生成报告的工作流。

2月2日周日
  1. Hugging Face Blog65

    Hugging Face 发布 Open-R1 项目进展:复现 DeepSeek-R1 训练管线与数据

    Hugging Face 更新 Open-R1 项目进展,旨在复现 DeepSeek-R1 缺失的训练管线和合成数据。团队已在 MATH-500 基准上验证评估结果,并将 GRPO 集成至 TRL v0.14 以支持并行训练。

    推荐理由:原文公开了复现 DeepSeek-R1 的训练管线与合成数据生成细节,提供了可参考的工程实现方案。

2月1日周六
1月31日周五
  1. Hugging Face Blog28

    Hugging Face 发布 AI 艺术工具通讯首期:回顾 2024 Flux.1 等开源模型里程碑

    Hugging Face 推出《AI tools for Art Newsletter》首期,回顾 2024 年图像与视频生成领域的关键突破。文章指出 Flux.1 在多项基准测试中超越 Midjourney v6.0 和 DALL·E 3,成为开源图像生成的新 SOTA。此外,InstantID 等免训练个性化技术显著提升了基于 SDXL 的零样本肖像生成质量。

1月30日周四
  1. Mistral AI82

    Mistral AI 发布 Mistral Small 3:24B 参数 Apache 2.0 开源模型

    Mistral AI 发布 Mistral Small 3,这是一款基于 Apache 2.0 许可证的 24B 参数低延迟优化模型。该模型在 MMLU 上准确率超过 81%,推理速度达 150 tokens/s,比同硬件上的 Llama 3.3 70B 快 3 倍以上。

    推荐理由:原文给出了24B参数模型的Apache 2.0许可、3倍于竞品的推理速度及本地部署门槛,读者可据此评估其在低延迟场景下的替代价值。

1月28日周二
  1. Hugging Face Blog65

    Hugging Face 启动 Open-R1 项目以完全复现 DeepSeek-R1

    Hugging Face 宣布启动 Open-R1 项目,旨在系统性重建 DeepSeek-R1 的数据和训练流程。该项目计划通过蒸馏高质量推理数据集、复现纯强化学习管线以及展示多阶段训练方法,来填补官方未公开代码和数据集的空白,推动开源推理模型的发展。

    推荐理由:原文详细拆解了 DeepSeek-R1 的训练配方并规划了复现路径,为社区提供了构建开源推理模型的具体方法论和数据策略参考。

  2. Hugging Face Blog70

    Hugging Face Hub 集成 fal、Replicate 等四家 Serverless 推理提供商

    Hugging Face 宣布在 Hub 模型页面及客户端 SDK 中正式集成 fal、Replicate、Sambanova 和 Together AI 四家 Serverless 推理提供商。用户可通过自定义 API Key 直连或经 HF 路由两种模式调用 DeepSeek-R1 等模型,PRO 用户每月获 $2 跨提供商通用额度。

    推荐理由:原文展示了在 Hub 模型页直接调用多家第三方 Serverless 推理服务的统一入口与计费模式,为开发者提供了更灵活的模型部署选择。

1月27日周一
  1. Hugging Face Blog65

    Diffusers 团队解析开源视频生成模型现状及低显存推理优化指南

    Hugging Face Diffusers 团队发布博客,综述了当前开源视频生成模型(如 CogVideoX, Hunyuan, LTX-Video)的能力、局限性及技术架构。

    推荐理由:文章梳理了开源视频生成模型的现状与局限,并提供了在 Diffusers 中通过量化、卸载等优化手段降低显存需求及微调的具体代码方案。

1月24日周五
  1. Hugging Face Blog68

    Hugging Face smolagents 新增对视觉语言模型的支持

    Hugging Face 宣布其开源智能体框架 smolagents 现已原生支持视觉语言模型(VLM)。该更新允许在智能体启动时直接传入图像列表,或通过回调函数在每一步执行后动态将截图等视觉数据注入内存。

    推荐理由:smolagents 原生支持视觉语言模型,通过回调机制动态注入图像,使智能体能自主浏览网页并处理视觉信息。