Hugging Face Transformers 新手入门指南
Hugging Face 发布面向非技术人员的 Transformers 库入门指南，旨在降低开源机器学习门槛。教程演示如何在 Hugging Face Spaces 中利用 NVIDIA A10G GPU（24GB）运行 Microsoft Phi-2 LLM。
全部AI 动态
全部动态
今日 42 条Hugging Face BlogAI 评分2626 Hugging Face Blog精选AI 评分6060 Hugging Face 介绍嵌入向量量化技术以提升检索速度与降低成本
Hugging Face 博客介绍了嵌入向量的二进制和标量（int8）量化方法，旨在解决大规模检索中的内存与成本瓶颈。通过结合二进制快速检索与 int8 重排序，该方法在保持约 96% 原始性能的同时，将内存占用减少 32 倍，检索速度提升最高达 45 倍。文中提供了基于 Sentence Transformers 库的实现代码及针对 4100 万条维基百科文本的演示案例。
推荐理由：原文提供了二进制与标量量化结合重排序的检索方案及代码示例，读者可据此评估其在降低内存成本与提升速度间的平衡效果。
OpenAI NewsAI 评分2626 JetBrains 利用 OpenAI API 打造其增长最快的产品
JetBrains 使用 OpenAI 的 API 构建了其历史上增长最快的产品。该举措展示了将 AI 深度集成到开发者软件中的实际成效，体现了 OpenAI 技术在提升开发工具性能与市场接受度方面的关键作用。
Hugging Face BlogAI 评分4040 Lighthouz AI 与 Hugging Face 推出 Chatbot Guardrails Arena
Lighthouz AI 联合 Hugging Face 发布 Chatbot Guardrails Arena，通过社区盲测评估大语言模型及隐私护栏的安全性。
Hugging Face BlogAI 评分3636 Hugging Face 在 Intel Meteor Lake 笔记本上运行 Phi-2 聊天机器人
Hugging Face 利用 Optimum Intel 库对 Microsoft Phi-2 模型进行 4-bit 量化，并在搭载 Core Ultra 7 155H CPU 的 Intel Meteor Lake 笔记本上成功运行。该方案结合硬件加速与小语言模型优势，实现了本地低延迟、高隐私的 LLM 推理体验。
Hugging Face Blog精选AI 评分6363 Hugging Face 发布 GaLore 在消费级硬件训练大模型的指南
Hugging Face 博客介绍了 GaLore 方法，通过利用梯度的低秩结构投影，使在 NVIDIA RTX 4090 等消费级 GPU 上训练高达 70 亿参数的模型成为可能。
推荐理由：原文提供了在消费级硬件上训练大模型的具体实现步骤和代码示例，读者可据此复现低显存优化方案。
Hugging Face Blog精选AI 评分7575 Hugging Face 发布 Cosmopedia：用于预训练大语言模型的大规模合成数据生成指南
Hugging Face 推出 Cosmopedia，这是一个包含超过 3000 万个文件和 250 亿 token 的开源合成数据集，旨在复现 Phi-1.5 的训练数据以用于从零开始预训练大语言模型。
推荐理由：原文详细拆解了从提示词工程到大规模生成的完整技术栈，为复现 Phi 系列合成数据提供了可落地的开源方案。
OpenAI NewsAI 评分1818 Salesforce 集成 OpenAI 企业级 LLM 以变革客户应用
Salesforce 集成 OpenAI 的企业级大语言模型（LLM），旨在变革其客户应用程序。该合作聚焦于提供具备企业就绪信任与安全能力的 AI 解决方案，帮助企业在保障合规的前提下利用生成式 AI 提升业务效率。
OpenAI NewsAI 评分1515 Holiday Extras 部署 ChatGPT Enterprise 提升每周 500 小时生产力
Holiday Extras 在所有团队中全面部署 ChatGPT Enterprise，实现每周生产力提升 500 小时。这一举措旨在通过 AI 构建数据驱动的高效文化，显著优化了内部工作流程与产出效率。
OpenAI NewsAI 评分2424 Superhuman 与 OpenAI 合作重塑电子邮件体验
Superhuman 宣布与 OpenAI 合作，引入 AI 技术以重新定义电子邮件体验。该合作旨在开启电子邮件的新纪元，利用人工智能提升用户处理邮件的效率与交互方式。
Hugging Face BlogAI 评分4242 Hugging Face 发布 Quanto：Optimum 的 PyTorch 量化后端
Hugging Face 推出 Quanto，这是 Optimum 框架下的 PyTorch 量化后端。它支持 int2、int4、int8 和 float8 权重及激活，兼容 CUDA 与 MPS 设备，并集成于 transformers 库中。该工具旨在简化大语言模型及其他模态模型的量化流程，降低部署内存成本。
Hugging Face BlogAI 评分3535 Hugging Face 推出 Train on DGX Cloud 服务支持在 NVIDIA H100 GPU 上训练模型
Hugging Face 联合 NVIDIA 推出 Train on DGX Cloud 服务，允许 Enterprise Hub 用户通过无代码界面在 H100 GPU 上微调 Llama、Mistral 等开源模型。该服务按分钟计费，H100 实例价格为 $8.25/GPU hour，支持 1x 至 8x 配置及 CSV/JSON 数据格式。
Hugging Face BlogAI 评分4242 Hugging Face 发布 WebSight v0.2 数据集与 Sightseer 模型，实现截图转 HTML
Hugging Face 推出 WebSight-v0.2 合成数据集，规模扩至 200 万对截图/HTML 样本并采用 Tailwind CSS。基于该数据微调的 Sightseer 视觉语言模型可将网页截图转换为功能完整的 HTML 代码，支持嵌入相似图像。
Hugging Face BlogAI 评分3838 Hugging Face 展示 Optimum Intel 与 fastRAG 在 CPU 上优化 BGE 嵌入模型
Hugging Face 演示如何利用 Optimum Intel 和 fastRAG 在 Xeon CPU 上加速 BGE 嵌入模型。通过量化等技术，该方案显著降低延迟并提升吞吐量，适用于 RAG 管道中的检索与重排序。BGE small、base 和 large 模型分别拥有 45M、110M 和 355M 参数，编码向量维度为 384/768/1024。
OpenAI NewsAI 评分1818 Healthify 与 OpenAI 合作利用 AI 健康教练改善数百万人生活
Healthify 与 OpenAI 达成合作，旨在通过 AI 健康教练技术帮助数百万用户实现可持续的减重目标。该举措聚焦于利用人工智能提升健康管理效果，以改善大众生活质量。
OpenAI NewsAI 评分2828 OpenAI 与 Le Monde 及 Prisa Media 达成全球新闻合作
OpenAI 宣布与国际新闻机构 Le Monde 和 Prisa Media 建立合作伙伴关系。该合作旨在将法语和西班牙语的新闻内容引入 ChatGPT，丰富模型的多语言信息来源。
OpenAI NewsAI 评分4343 OpenAI 宣布董事会新成员及 Sam Altman 回归
OpenAI 宣布 Sue Desmond-Hellmann、Nicole Seligman 和 Fidji Simo 加入董事会，Sam Altman 重新回归。此次人事变动标志着 OpenAI 治理结构的最新调整。
OpenAI News精选AI 评分6060 OpenAI 完成董事会治理审查 Sam Altman 与 Greg Brockman 继续领导公司
OpenAI 宣布董事会治理审查工作已完成，Sam Altman 和 Greg Brockman 将继续担任公司领导职务。这一结果标志着此前围绕公司治理结构的争议告一段落，明确了现有管理层的持续领导地位。
推荐理由：官方确认治理审查结束及核心管理层留任，为关注 OpenAI 内部稳定性的读者提供了明确的最终结论。
OpenAI NewsAI 评分1818 Paradigm 利用 OpenAI API 改善临床试验患者准入
Paradigm 使用 OpenAI 的 API 来改善患者对临床试验的准入。
OpenAI NewsAI 评分1818 Lifespan 利用 GPT-4 提升健康素养与患者福祉
Lifespan 采用 GPT-4 显著改善健康素养及患者结果。该应用旨在通过大语言模型技术优化医疗信息获取与患者体验，具体实施细节未在原文中展开。
OpenAI NewsAI 评分1616 Match Group 使用 ChatGPT Enterprise 提升公司生产力
Match Group 采用 ChatGPT Enterprise 以激发创造力并产生实际影响。该工具旨在帮助公司实现更高效的生产力表现。
OpenAI NewsAI 评分1313 OpenAI 回应与 Elon Musk 的关系
OpenAI 声明其致力于 OpenAI 使命，并强调在每一步都坚持追求这一目标。该表态直接回应了关于公司与 Elon Musk 之间关系的讨论，重申了其核心宗旨的连续性。
Hugging Face BlogAI 评分2929 ConTextual 数据集发布：评估多模态模型在文本丰富场景中的联合推理能力
UCLA 研究人员推出 ConTextual 数据集，包含 506 个指令，旨在评估大语言模型（LMM）对图像中文本与视觉上下文的联合推理能力。基准测试显示，GPT-4V 等专有模型在信息图和时间读取任务上表现不佳，开源模型如 LLaVA-v1.5-13B 存在显著领域差距。增强型 LLM 方法仅获 17.2% 的人类认可率，表明当前模型在处理文本丰富的真实场景时仍有巨大提升空间。
Hugging Face BlogAI 评分3333 Argilla 与 Hugging Face Spaces 联合启动社区数据集共建计划
Argilla 与 Hugging Face 推出“Data is Better Together”实验，利用 Argilla 和 Hugging Face Spaces 实现社区协作构建数据集。
Hugging Face BlogAI 评分2828 Hugging Face 展示在 Intel Gaudi 2 上使用 Optimum Habana 运行 Llama 2 文本生成流水线
Hugging Face 演示如何利用 Optimum Habana v1.10.4 和自定义流水线类，在 Intel Gaudi 2 AI 加速器上高效运行 Llama 2（7b/13b/70b）模型。
Hugging Face Blog精选AI 评分8282 BigCode 发布 StarCoder2 系列开源代码大模型及 The Stack v2 数据集
BigCode 团队发布新一代开源代码大模型 StarCoder2 及其训练数据集 The Stack v2，并开放所有模型权重、数据处理和训练代码。StarCoder2 包含 3B、7B 和 15B 三种参数规模，其中旗舰版 StarCoder2-15B 基于 600 多种编程语言和超过 4 万亿 token 训练，性能在同类尺寸中领先并可媲美 33B+ 模型。
推荐理由：原文公开了 StarCoder2 系列模型的参数规模、训练数据细节及代码权重，为开发者提供了透明可复现的开源代码大模型选择。
Hugging Face BlogAI 评分4040 Hugging Face 推出 TTS Arena：基于社区投票的文本转语音模型基准测试
Hugging Face 发布 TTS Arena，借鉴 Chatbot Arena 模式让用户盲听并投票比较文本转语音模型。该工具收录 ElevenLabs、MetaVoice、OpenVoice 等 SOTA 模型，通过 Elo 算法生成公开排行榜。此举旨在解决 WER 和 MOS 等传统指标在评估语音自然度时的局限性，实现开源与闭源模型的公平对比。
Mistral AIAI 评分3535 Mistral AI 发布对话助手 Le Chat
Mistral AI 推出基于其模型的对话助手 Le Chat，支持 Mistral Large、Mistral Small 及原型模型 Mistral Next。该产品提供企业版 le Chat Enterprise，具备自部署能力和细粒度内容审核机制。目前 Le Chat 无法访问互联网，用户可申请成为 beta 测试者以提供反馈。
Mistral AI精选AI 评分8484 Mistral AI 发布旗舰模型 Mistral Large 及优化版 Mistral Small
Mistral AI 发布最新旗舰语言模型 Mistral Large，该模型具备强大的多语言推理和代码生成能力，通过 API 提供时排名全球第二（仅次于 GPT-4）。
推荐理由：Mistral Large 在多项基准测试中表现优异，并宣布与 Microsoft Azure 达成合作，为开发者提供了新的前沿模型选择。
Hugging Face BlogAI 评分4040 Hugging Face 解析 AI 水印技术：工具、方法与优缺点
Hugging Face 博客详解 AI 生成内容的水印技术，涵盖生成时嵌入与后处理两种主要方法。文章对比了 Glaze、Nightshade 等数据投毒工具及 Truepic 的 C2PA 签名方案，并分析了开源与闭源水印在防篡改与创新间的权衡。
Hugging Face BlogAI 评分4646 Hugging Face 详解 Gemma 模型 LoRA/QLoRA 微调方法
Hugging Face 发布指南，演示如何使用 Transformers 和 PEFT 库对 Google DeepMind 的 Gemma 2B/7B 开源权重模型进行参数高效微调。教程重点介绍低秩适应（LoRA）及量化版 QLoRA 技术，支持在 GPU 和 Cloud TPU 上通过 PyTorch/XLA 实现低成本适配。
Hugging Face BlogAI 评分5656 Haize Labs 在 Hugging Face 推出红队抵抗基准测试排行榜
Haize Labs 联合 Hugging Face 发布 Red-Teaming Resistance Benchmark，旨在通过高质量的人类对抗提示词测试前沿大语言模型的鲁棒性。
Hugging Face BlogAI 评分5353 Hugging Face 介绍 Matryoshka 嵌入模型原理及 Sentence Transformers 实践指南
Hugging Face 发布博客详细介绍 Matryoshka 嵌入模型（套娃嵌入）的概念、优势及使用方法。文章解释了该模型如何通过将重要信息前置到低维部分，实现在不显著损失性能的前提下截断向量以节省存储和提升检索速度。
Hugging Face Blog精选AI 评分8686 Hugging Face 宣布支持 Google 开源大模型 Gemma
Hugging Face 宣布全面支持 Google 发布的开源大模型 Gemma，提供 Transformers 集成及云端部署方案。Gemma 包含 2B 和 7B 参数版本，支持消费级 GPU 运行，并给出了基于 TRL 的单卡微调示例。
推荐理由：原文详细说明了 Gemma 在 Hugging Face 生态中的集成方式、硬件适配性及微调流程，为开发者提供了从部署到训练的具体技术路径。
Hugging Face BlogAI 评分3333 Upstage 推出 Open Ko-LLM Leaderboard：构建韩语大模型评估生态
Upstage 于2023年9月发起 Open Ko-LLM Leaderboard，旨在建立透明、公平的韩语大模型评估生态。该平台采用 Ko-MMLU 等五项私有测试集以防止数据污染，上线五个月即收录超1,000个模型。KT 的 Mi:dm 7B 在7B参数以下模型中排名第一并开放使用，SOLAR 及基于 LLaMA2、Yi、Mistral 微调的模型表现强劲。
Hugging Face Blog精选AI 评分6565 Hugging Face PEFT 库新增 LoRA 适配器合并方法
Hugging Face 在 PEFT 库中发布了针对 LoRA 适配器的新合并方法，支持 cat、linear、svd、ties、dare 和 magnitude_prune 等算法。
推荐理由：原文详解了PEFT新增的多种LoRA适配器合并算法及代码示例，提供了从文本到图像生成的具体实践指南与参数调优建议。
Hugging Face Blog精选AI 评分6767 Hugging Face 演示用开源 LLM 生成合成数据训练高效专用模型
Hugging Face 发布教程展示如何利用开源 Mixtral-8x7B-Instruct-v0.1 模型生成合成数据，以微调 RoBERTa-base 等小型专用模型。
推荐理由：通过金融情感分析案例演示了利用开源大模型生成合成数据并微调小模型的完整流程，提供了具体的成本与性能对比数据及可复用的代码仓库。
OpenAI News精选AI 评分9292 OpenAI 发布 Sora 文本到视频生成模型
OpenAI 正式推出名为 Sora 的文本到视频生成模型，能够根据提示词生成长达一分钟的高保真视频。该模型展示了在理解物理世界运动规律方面的显著进展，支持复杂场景和多角色互动。
推荐理由：官方直接发布了新模型的入口和核心能力说明，读者可据此评估其在视频生成领域的实际表现。
Hugging Face BlogAI 评分1515 AMD 与 Hugging Face 联合举办 Pervasive AI Developer Contest
AMD 与 Hugging Face 联合推出 Pervasive AI Developer Contest，提供 Generative AI、Robotics AI 和 PC AI 三个赛道，总奖金达 $160,000 USD。
OpenAI News精选AI 评分7575 OpenAI 测试 ChatGPT 记忆功能及新控制选项
OpenAI 正在测试 ChatGPT 的记忆功能，使其能记住用户讨论的内容以提升后续对话的帮助性。同时提供新的控制选项，让用户掌握对 ChatGPT 记忆的管理权。
推荐理由：官方宣布测试记忆功能并强调用户控制权，读者可据此了解 ChatGPT 交互逻辑的变化及隐私管理方式。