跳到正文

全部动态

今日 42 条
4月30日周三
4月29日周二
  1. Hugging Face Blog68

    Meta 发布 Llama Guard 4 及 Llama Prompt Guard 2 模型

    Meta 发布 Llama Guard 4,这是一个从 Llama 4 Scout 剪枝而来的 12B 稠密多模态安全模型,支持检测图像和文本中的不安全内容。同时推出两个轻量级 Llama Prompt Guard 2 模型(86M 和 22M 参数),专门用于检测提示词注入和越狱攻击。

    推荐理由:原文详细说明了 Llama Guard 4 的架构剪枝来源、多语言分类能力及与上一代在单图和多图场景下的性能对比数据。

4月26日周六
  1. Hugging Face Blog68

    ServiceNow 开源 PipelineRL:支持飞行中权重更新的 LLM 强化学习实现

    ServiceNow Research 在 Hugging Face 博客宣布开源实验性强化学习实现 PipelineRL,旨在解决大规模 LLM RL 训练中推理吞吐量与在线数据收集之间的权衡问题。

    推荐理由:原文开源了通过飞行中权重更新解决 RL 训练吞吐与数据新鲜度权衡的实现,并展示了在简化算法下达到竞争性基准结果的技术细节。

4月25日周五
4月24日周四
4月23日周三
  1. OpenAI News60

    OpenAI 发布新模型

    OpenAI 发布了一个新模型。该消息由 OpenAI News 官方渠道于 2025-04-23 公布。

    推荐理由:官方直接发布了新模型,读者可以第一时间获取其基础信息和入口。

4月22日周二
4月16日周三
  1. Hugging Face Blog40

    Hugging Face 解析 LLM 并发请求中的 Prefill 与 Decode 阶段性能优化

    Hugging Face 详解大语言模型推理中 Prefill(并行处理输入)与 Decode(串行生成输出)两阶段的差异及其对延迟和吞吐量的影响。文章指出 Prefill 阶段计算密集,而 Decode 阶段受限于 GPU 内存带宽,需通过批处理提升利用率。针对 TNG 在 24 张 H100 GPU 上的部署案例,分析了如何平衡交互应用所需的低延迟与非交互式场景的高吞吐量需求。

  2. OpenAI News87

    OpenAI 发布新模型

    OpenAI 官方新闻源发布了一条关于新模型的更新信息。由于提供的正文内容缺失,无法提取具体的模型名称、版本或能力细节。

  3. Hugging Face Blog42

    Hugging Face 发布 HELMET:全面评估长上下文语言模型的新基准

    Hugging Face 联合普林斯顿大学推出 HELMET 基准,旨在解决现有长上下文语言模型(LCLM)评估中合成任务与真实性能脱节的问题。该研究评测了 59 款最新 LCLM,发现前沿模型在复杂任务上仍受限,且简单合成任务无法反映下游表现。HELMET 通过多样性、可控性和可靠性三大维度改进评估体系,并支持通过 HuggingFace Transformers 或 TGI 快速部署使用。

4月15日周二
4月14日周一
  1. OpenAI News78

    OpenAI 发布新模型

    OpenAI 正式发布了新的 AI 模型。该消息由 OpenAI News 官方渠道于 2025-04-14 公布。

    推荐理由:OpenAI 官方宣布新模型发布,读者可据此了解最新前沿模型的能力定位与更新方向。

  2. Hugging Face Blog45

    Protect AI 与 Hugging Face 合作半年:扫描 447 万模型版本并新增 4 个威胁检测模块

    Protect AI 与 Hugging Face 合作六个月,已扫描 Hub 上 141 万个仓库中的 447 万模型版本,识别出 35.2 万个不安全或可疑问题。Guardian 新增 PAIT-ARV-100、PAIT-JOBLIB-101、PAIT-TF-200 和 PAIT-LMAFL-300 四个威胁检测模块,覆盖更多文件格式并检测 Keras CVE-2025-1550 等漏洞。

  3. Hugging Face Blog65

    Hugging Face 收购 Pollen Robotics 并推出售价 7 万美元的开源人形机器人 Reachy 2

    Hugging Face 宣布收购拥有 9 年开源机器人研发经验的 Pollen Robotics,这是其第五次收购。双方将共同推进开源机器人战略,目前提供的首款产品是面向研究和教育的开源人形机器人 Reachy 2,支持 VR 遥操作,售价为 70,000 美元。

    推荐理由:原文披露了收购细节及首款开源人形机器人 Reachy 2 的定价与能力,为观察 AI 巨头布局实体硬件提供了具体样本。

4月11日周五
  1. Hugging Face Blog28

    Visual Salamandra 发布:基于 7B 参数模型的多模态理解能力扩展

    Language Technologies Lab 发布 Visual Salamandra,将 Salamandra LLM 扩展至图像与视频多模态任务。该模型基于 70 亿参数基础架构,集成 Google SigLIP 编码器与 MLP 投影器,支持 VQA、OCR 及数学推理等应用。其训练涵盖 610 万指令微调实例,重点强化欧洲语言多样性与多模态对齐能力。

4月10日周四
4月9日周三
  1. Mistral AI37

    Mistral AI 利用 LLM as a Judge 与结构化输出评估 RAG 系统

    Mistral AI 提出结合“LLM as a Judge”与 RAG Triad 框架来评估检索增强生成系统。该方案利用 Mistral 模型作为裁判,通过 Context Relevance、Groundedness 和 Answer Relevance 三个维度量化性能。配合 API 新推出的结构化输出功能,可强制模型返回机器可读的评分与推理依据,提升评估可靠性。

4月8日周二
4月7日周一
  1. OpenAI News26

    OpenAI 发布欧盟经济蓝图

    OpenAI 发布“欧盟经济蓝图”,提出一系列建议以助力欧洲把握人工智能机遇。该方案旨在推动区域可持续经济增长,并确保 AI 由欧洲开发、在欧洲部署且服务于欧洲。

4月5日周六
4月4日周五
4月3日周四
4月2日周三
  1. Hugging Face Blog37

    TNG 提出 LLM 服务公平调度与动态背压方案

    TNG Technology Consulting 针对 vLLM 等推理引擎的队列阻塞问题,提出在 API Server 层实施轮询式公平调度。该方案通过动态调整请求发送速率以控制后端队列长度,解决“重度用户”占用资源导致新用户延迟高的问题,并支持基于 KV cache 相似度的路由优化。

3月31日周一
3月28日周五
3月27日周四