跳到正文

多模态

文本之外的能力:视觉理解、图文混合、音视频输入输出的模型与产品进展。

125条精选相关主题图像生成AI 视频语音与音频

最新精选

第 81–100 条 · 共 125 条
10月21日周二
  1. Hugging Face Blog65

    Hugging Face AI Sheets发布重大更新,新增图像视觉处理能力

    Hugging Face开源工具AI Sheets发布重大更新,正式加入对图像视觉内容的支持。用户现在可以在电子表格中直接上传、分析、提取信息以及生成和编辑图片,无需编写代码。

    推荐理由:AI Sheets新增视觉能力支持图像提取与生成,用户可在电子表格中直接处理多模态数据并导出结构化结果。

9月23日周二
8月28日周四
  1. OpenAI News78

    OpenAI 发布新多模态模型

    OpenAI 发布了一款新的多模态模型,支持更直接的语音交互。该模型旨在提升实时对话体验,具体技术细节和性能指标需参考官方文档。

    推荐理由:OpenAI 官方发布了新的多模态模型,提供了更直接的语音交互能力,适合评估其在实时对话场景中的表现。

8月7日周四
  1. Hugging Face Blog62

    TRL 新增视觉语言模型对齐支持:涵盖 MPO、GRPO 及 GSPO 等方法

    Hugging Face TRL 库新增对视觉语言模型(VLM)的多项对齐算法支持,包括混合偏好优化(MPO)、组相对策略优化(GRPO)和组序列策略优化(GSPO)。官方提供了相应的训练脚本、Notebook 示例以及 vLLM 集成方案,并实现了原生的监督微调(SFT)支持,帮助开发者更高效地进行多模态模型的后训练与对齐。

    推荐理由:原文提供了在 TRL 中实现 VLM 对齐的具体代码配置与脚本,读者可直接复用这些方法优化多模态模型性能。

7月17日周四
  1. Mistral AI68

    Mistral Le Chat 发布深度研究、Voxtral 语音模式及 Magistral 推理新功能

    Mistral AI 为其助手 Le Chat 推出多项重大更新,包括预览版 Deep Research 模式、基于 Voxtral 模型的语音交互以及由 Magistral 模型驱动的原生多语言推理能力。

    推荐理由:Mistral 为 Le Chat 集中上线了深度研究、语音交互及原生多语言推理等核心功能,展示了其助手向全能型生产力工具演进的具体路径。

7月8日周二
  1. Hugging Face Blog78

    Hugging Face 发布 SmolLM3:支持 128k 上下文与双模式推理的开源 3B 模型

    Hugging Face 推出完全开源的 3B 参数模型 SmolLM3,包含 Base 和 Instruct/Reasoning 版本,支持英语、法语等 6 种语言及最高 128k 上下文窗口。

    推荐理由:Hugging Face 发布了 SmolLM3 及其完整训练配方,展示了在 3B 规模下通过公开数据实现长上下文和双模式推理的工程路径。

6月28日周六
  1. Hugging Face Blog62

    NVIDIA 发布 Llama Nemotron Nano VL 8B 视觉语言模型

    NVIDIA 推出 Llama Nemotron Nano VL,这是一款基于 Llama-3.1-8B-Instruct 和 C-RADIOv2-VLM-H 架构的 8B 参数视觉语言模型,专为智能文档处理和 OCR 设计。

    推荐理由:原文给出了8B视觉语言模型在文档处理基准上的表现及部署入口,读者可以据此判断其在企业级自动化场景中的适用性。

6月26日周四
  1. Hugging Face Blog84

    Gemma 3n正式登陆开源生态,支持transformers、MLX等主流框架

    Gemma 3n现已全面支持transformers、timm、MLX、llama.cpp、Ollama等主流开源库,实现本地化多模态运行。该模型包含E2B和E4B两种规格,通过Per-Layer Embeddings技术将实际5B/8B参数的显存占用降至2GB/3GB,并首次引入MobileNet-v5视觉编码器与USM音频编码器。

    推荐理由:原文详细列出了Gemma 3n在主流开源库中的集成方式及显存优化原理,为开发者提供了从推理到微调的完整落地路径。

6月6日周五
  1. Hugging Face Blog65

    Hugging Face 发布 ScreenSuite:最全面的 GUI 智能体评估套件

    Hugging Face 发布 ScreenSuite,这是一个包含 13 个基准测试的综合评估套件,用于评估视觉语言模型(VLM)在感知、定位、单步操作和多步智能体等方面的能力。

    推荐理由:原文整合了13个GUI智能体基准并统一为纯视觉评估环境,提供了支持本地部署的Docker容器和快速启动指南。

6月3日周二
  1. Hugging Face Blog65

    H Company 发布 Holo1 GUI 自动化 VLM 家族及 Surfer-H 智能体

    H Company 在 Hugging Face Hub 上发布了 Holo1 系列动作视觉语言模型(Action VLMs)和 WebClick 基准测试。该系列包含 Holo1-3B 和 Holo1-7B 两个版本,基于 Qwen2.5-VL 架构,其中 Holo1-7B 在通用 UI 定位基准上达到 76.2% 的平均准确率。

    推荐理由:原文发布了专为GUI自动化设计的开源视觉语言模型家族及基准,提供了低成本实现网页任务自动化的具体性能数据。

5月21日周三
  1. Hugging Face Blog68

    Hugging Face 发布 nanoVLM:纯 PyTorch 实现的最简视觉语言模型训练工具包

    Hugging Face 推出 nanoVLM,这是一个用于训练视觉语言模型(VLM)的轻量级纯 PyTorch 工具包。该项目受 nanoGPT 启发,旨在通过极简且可读的代码帮助初学者在免费 Colab 笔记本上启动 VLM 训练。

    推荐理由:原文提供了基于纯 PyTorch 的极简 VLM 训练代码库及 Colab 入口,适合开发者快速理解视觉语言模型架构与训练流程。

5月12日周一
5月7日周三
  1. Mistral AI75

    Mistral AI 发布 Mistral Medium 3 模型

    Mistral AI 正式发布 Mistral Medium 3,这是一款旨在平衡 SOTA 性能、更低成本和简化部署的新类别模型。该模型在编码和多模态理解等专业用例中表现领先,基准测试显示其性能达到或超过 Claude Sonnet 3.7 的 90%,但 API 价格低至每百万 token 输入 $0.4 / 输出 $2。

    推荐理由:Mistral Medium 3 以显著低于竞品的成本提供接近前沿的性能,并支持混合或本地部署,为企业级应用提供了兼顾效率与可控性的新选择。

4月29日周二
  1. Hugging Face Blog68

    Meta 发布 Llama Guard 4 及 Llama Prompt Guard 2 模型

    Meta 发布 Llama Guard 4,这是一个从 Llama 4 Scout 剪枝而来的 12B 稠密多模态安全模型,支持检测图像和文本中的不安全内容。同时推出两个轻量级 Llama Prompt Guard 2 模型(86M 和 22M 参数),专门用于检测提示词注入和越狱攻击。

    推荐理由:原文详细说明了 Llama Guard 4 的架构剪枝来源、多语言分类能力及与上一代在单图和多图场景下的性能对比数据。

4月5日周六
3月17日周一
  1. Mistral AI77

    Mistral AI 发布 Mistral Small 3.1 开源多模态模型

    Mistral AI 发布 Mistral Small 3.1,这是一款 Apache 2.0 许可的开源模型,支持 128k tokens 上下文窗口和多模态理解。该模型推理速度达 150 tokens/s,可在单张 RTX 4090 或 32GB RAM Mac 上运行,目前已上线 Hugging Face 和 La Plateforme API。

    推荐理由:官方公布小参数模型在文本、多模态及长上下文维度的性能数据与硬件适配细节,为端侧部署提供具体参考。

3月12日周三
  1. Hugging Face Blog92

    Google 发布 Gemma 3:支持多模态、140+语言及128k上下文的开源大模型

    Google 发布新一代开源多模态大模型 Gemma 3,包含 1B、4B、12B 和 27B 四种参数规模。除 1B 版本仅支持文本外,其余版本均支持图像输入,上下文窗口最高达 128k tokens,并支持 140 多种语言。

    推荐理由:原文详细列出了Gemma 3各尺寸参数、上下文长度及多语言支持,并提供了在Hugging Face生态中的具体部署与推理代码示例。

3月7日周五
  1. Mistral AI78

    Mistral 发布 Mistral OCR:支持多模态文档理解与结构化输出

    Mistral AI 推出 Mistral OCR,这是一款专为文档理解设计的 API,能够以高准确率解析文本、表格、公式及图像等元素。该模型在多项基准测试中表现优于 Gemini-1.5-Pro 和 GPT-4o,支持原生多语言处理,单节点每分钟可处理高达 2000 页文档。

    推荐理由:官方发布了针对文档理解的专用 OCR 模型,提供了详细的基准测试数据对比和 API 定价策略,适合需要处理复杂多模态文档的开发者评估。

3月4日周二
  1. Hugging Face Blog65

    Cohere For AI 发布 Aya Vision 8B/32B 开源多模态模型

    Cohere For AI 推出 Aya Vision 8B 和 32B 两款开源权重视觉语言模型(VLM),旨在解决多模态模型的多语言性能挑战。该系列基于 SigLIP2 视觉编码器和 Aya Expanse 语言模型,采用动态图像分块、Pixel Shuffle 降采样以及多模态模型合并等技术,支持 23 种语言的图像描述、视觉问答及 OCR 等任务。

    推荐理由:Cohere For AI 发布 Aya Vision 系列开源多模态模型,通过合成标注与模型合并技术提升23种语言下的视觉理解能力。

2月20日周四
  1. Hugging Face Blog78

    Hugging Face 发布 SmolVLM2 系列模型,支持全设备视频理解

    Hugging Face 发布 SmolVLM2 系列模型,包含 2.2B、500M 和 256M 三种参数规模,旨在让视频理解能力在所有设备上运行。SmolVLM2 2.2B 在 Video-MME 基准测试中表现优于现有 2B 级模型,而 500M 和 256M 版本则提供了极小的内存占用。

    推荐理由:原文给出了三种参数规模的视频理解模型及端侧部署方案,读者可以据此评估小模型在本地设备上的实际可用性。