Hugging Face AI Sheets发布重大更新,新增图像视觉处理能力
Hugging Face开源工具AI Sheets发布重大更新,正式加入对图像视觉内容的支持。用户现在可以在电子表格中直接上传、分析、提取信息以及生成和编辑图片,无需编写代码。
推荐理由:AI Sheets新增视觉能力支持图像提取与生成,用户可在电子表格中直接处理多模态数据并导出结构化结果。
文本之外的能力:视觉理解、图文混合、音视频输入输出的模型与产品进展。
Hugging Face开源工具AI Sheets发布重大更新,正式加入对图像视觉内容的支持。用户现在可以在电子表格中直接上传、分析、提取信息以及生成和编辑图片,无需编写代码。
推荐理由:AI Sheets新增视觉能力支持图像提取与生成,用户可在电子表格中直接处理多模态数据并导出结构化结果。
Hugging Face 推出 Smol2Operator 项目,展示如何将 SmolVLM2-2.2B-Instruct 从零基础转化为具备 GUI 操作能力的智能体。
推荐理由:展示了如何通过两阶段微调将无 GUI 能力的轻量级 VLM 转化为具备推理能力的智能体,并开源了完整训练配方和数据集。
OpenAI 发布了一款新的多模态模型,支持更直接的语音交互。该模型旨在提升实时对话体验,具体技术细节和性能指标需参考官方文档。
推荐理由:OpenAI 官方发布了新的多模态模型,提供了更直接的语音交互能力,适合评估其在实时对话场景中的表现。
Hugging Face TRL 库新增对视觉语言模型(VLM)的多项对齐算法支持,包括混合偏好优化(MPO)、组相对策略优化(GRPO)和组序列策略优化(GSPO)。官方提供了相应的训练脚本、Notebook 示例以及 vLLM 集成方案,并实现了原生的监督微调(SFT)支持,帮助开发者更高效地进行多模态模型的后训练与对齐。
推荐理由:原文提供了在 TRL 中实现 VLM 对齐的具体代码配置与脚本,读者可直接复用这些方法优化多模态模型性能。
Mistral AI 为其助手 Le Chat 推出多项重大更新,包括预览版 Deep Research 模式、基于 Voxtral 模型的语音交互以及由 Magistral 模型驱动的原生多语言推理能力。
推荐理由:Mistral 为 Le Chat 集中上线了深度研究、语音交互及原生多语言推理等核心功能,展示了其助手向全能型生产力工具演进的具体路径。
Hugging Face 推出完全开源的 3B 参数模型 SmolLM3,包含 Base 和 Instruct/Reasoning 版本,支持英语、法语等 6 种语言及最高 128k 上下文窗口。
推荐理由:Hugging Face 发布了 SmolLM3 及其完整训练配方,展示了在 3B 规模下通过公开数据实现长上下文和双模式推理的工程路径。
NVIDIA 推出 Llama Nemotron Nano VL,这是一款基于 Llama-3.1-8B-Instruct 和 C-RADIOv2-VLM-H 架构的 8B 参数视觉语言模型,专为智能文档处理和 OCR 设计。
推荐理由:原文给出了8B视觉语言模型在文档处理基准上的表现及部署入口,读者可以据此判断其在企业级自动化场景中的适用性。
Gemma 3n现已全面支持transformers、timm、MLX、llama.cpp、Ollama等主流开源库,实现本地化多模态运行。该模型包含E2B和E4B两种规格,通过Per-Layer Embeddings技术将实际5B/8B参数的显存占用降至2GB/3GB,并首次引入MobileNet-v5视觉编码器与USM音频编码器。
推荐理由:原文详细列出了Gemma 3n在主流开源库中的集成方式及显存优化原理,为开发者提供了从推理到微调的完整落地路径。
Hugging Face 发布 ScreenSuite,这是一个包含 13 个基准测试的综合评估套件,用于评估视觉语言模型(VLM)在感知、定位、单步操作和多步智能体等方面的能力。
推荐理由:原文整合了13个GUI智能体基准并统一为纯视觉评估环境,提供了支持本地部署的Docker容器和快速启动指南。
H Company 在 Hugging Face Hub 上发布了 Holo1 系列动作视觉语言模型(Action VLMs)和 WebClick 基准测试。该系列包含 Holo1-3B 和 Holo1-7B 两个版本,基于 Qwen2.5-VL 架构,其中 Holo1-7B 在通用 UI 定位基准上达到 76.2% 的平均准确率。
推荐理由:原文发布了专为GUI自动化设计的开源视觉语言模型家族及基准,提供了低成本实现网页任务自动化的具体性能数据。
Hugging Face 推出 nanoVLM,这是一个用于训练视觉语言模型(VLM)的轻量级纯 PyTorch 工具包。该项目受 nanoGPT 启发,旨在通过极简且可读的代码帮助初学者在免费 Colab 笔记本上启动 VLM 训练。
推荐理由:原文提供了基于纯 PyTorch 的极简 VLM 训练代码库及 Colab 入口,适合开发者快速理解视觉语言模型架构与训练流程。
Hugging Face 发布博客详细回顾了过去一年视觉语言模型(VLMs)的技术演进,重点解析了 Any-to-any 模型、推理模型、小型化模型及 Mixture-of-Experts 解码器等新趋势。
Mistral AI 正式发布 Mistral Medium 3,这是一款旨在平衡 SOTA 性能、更低成本和简化部署的新类别模型。该模型在编码和多模态理解等专业用例中表现领先,基准测试显示其性能达到或超过 Claude Sonnet 3.7 的 90%,但 API 价格低至每百万 token 输入 $0.4 / 输出 $2。
推荐理由:Mistral Medium 3 以显著低于竞品的成本提供接近前沿的性能,并支持混合或本地部署,为企业级应用提供了兼顾效率与可控性的新选择。
Meta 发布 Llama Guard 4,这是一个从 Llama 4 Scout 剪枝而来的 12B 稠密多模态安全模型,支持检测图像和文本中的不安全内容。同时推出两个轻量级 Llama Prompt Guard 2 模型(86M 和 22M 参数),专门用于检测提示词注入和越狱攻击。
推荐理由:原文详细说明了 Llama Guard 4 的架构剪枝来源、多语言分类能力及与上一代在单图和多图场景下的性能对比数据。
Hugging Face 正式上架 Meta 发布的 Llama 4 Maverick (~400B) 和 Llama 4 Scout (~109B) 模型权重。
推荐理由:原文详细披露了 Llama 4 Maverick 和 Scout 的 MoE 架构、超长上下文支持及在 Hugging Face 上的集成方式,为开发者提供了从权重下载到推理部署的具体技术路径。
Mistral AI 发布 Mistral Small 3.1,这是一款 Apache 2.0 许可的开源模型,支持 128k tokens 上下文窗口和多模态理解。该模型推理速度达 150 tokens/s,可在单张 RTX 4090 或 32GB RAM Mac 上运行,目前已上线 Hugging Face 和 La Plateforme API。
推荐理由:官方公布小参数模型在文本、多模态及长上下文维度的性能数据与硬件适配细节,为端侧部署提供具体参考。
Google 发布新一代开源多模态大模型 Gemma 3,包含 1B、4B、12B 和 27B 四种参数规模。除 1B 版本仅支持文本外,其余版本均支持图像输入,上下文窗口最高达 128k tokens,并支持 140 多种语言。
推荐理由:原文详细列出了Gemma 3各尺寸参数、上下文长度及多语言支持,并提供了在Hugging Face生态中的具体部署与推理代码示例。
Mistral AI 推出 Mistral OCR,这是一款专为文档理解设计的 API,能够以高准确率解析文本、表格、公式及图像等元素。该模型在多项基准测试中表现优于 Gemini-1.5-Pro 和 GPT-4o,支持原生多语言处理,单节点每分钟可处理高达 2000 页文档。
推荐理由:官方发布了针对文档理解的专用 OCR 模型,提供了详细的基准测试数据对比和 API 定价策略,适合需要处理复杂多模态文档的开发者评估。
Cohere For AI 推出 Aya Vision 8B 和 32B 两款开源权重视觉语言模型(VLM),旨在解决多模态模型的多语言性能挑战。该系列基于 SigLIP2 视觉编码器和 Aya Expanse 语言模型,采用动态图像分块、Pixel Shuffle 降采样以及多模态模型合并等技术,支持 23 种语言的图像描述、视觉问答及 OCR 等任务。
推荐理由:Cohere For AI 发布 Aya Vision 系列开源多模态模型,通过合成标注与模型合并技术提升23种语言下的视觉理解能力。
Hugging Face 发布 SmolVLM2 系列模型,包含 2.2B、500M 和 256M 三种参数规模,旨在让视频理解能力在所有设备上运行。SmolVLM2 2.2B 在 Video-MME 基准测试中表现优于现有 2B 级模型,而 500M 和 256M 版本则提供了极小的内存占用。
推荐理由:原文给出了三种参数规模的视频理解模型及端侧部署方案,读者可以据此评估小模型在本地设备上的实际可用性。