跳到正文

Hugging Face

Hugging Face 开源社区动态:热门模型与数据集、排行榜变化与开源生态的晴雨表。

最新精选

第 241–260 条 · 共 269 条
7月27日周四
  1. Hugging Face Blog65

    Hugging Face 发布 Stable Diffusion XL 在 Mac 上的 Core ML 部署与高级量化指南

    Hugging Face 联合 Apple 发布 Stable Diffusion XL 的 Core ML 版本,并介绍混合位量化技术以优化 Mac 端运行效率。该技术在保持高画质的同时将模型体积压缩至 1.4 GB(减少 71%),支持在 macOS 14 beta 上通过 CPU+GPU 运行。官方已开源转换脚本、推理 Demo 及预计算量化配方,开发者可直接复用或应用于其他微调模型。

    推荐理由:文章详解了混合位量化技术原理及在 Stable Diffusion XL 上的应用,提供了从模型转换到性能测试的完整开源工具链。

7月18日周二
6月23日周五
  1. Hugging Face Blog65

    Hugging Face 解析 Open LLM Leaderboard 中 MMLU 评分差异原因

    Hugging Face 团队分析了 Open LLM Leaderboard 上 MMLU 分数与论文数据不一致的原因,指出不同评估实现导致结果显著差异。文章对比了 EleutherAI Harness、Stanford HELM 和原始实现三种方法在提示词构造及概率计算上的区别,展示了同一模型在不同方法下的得分变化。最终确认社区维护的评估库更新后已对齐原始实现,并将重新运行排行榜以修正数据。

    推荐理由:原文通过对比三种 MMLU 实现方式,揭示了评估细节对模型分数的巨大影响,为理解 LLM 评测差异提供了具体案例。

6月15日周四
  1. Hugging Face Blog68

    Hugging Face 发布基于 Core ML 的 Stable Diffusion 加速方案

    Hugging Face 联合 Apple 推出基于 Core ML 的 Stable Diffusion 加速方案,利用 6-bit palettization 技术显著降低模型体积并提升 iPhone、iPad 和 Mac 上的推理速度。

    推荐理由:官方展示了 Core ML 6-bit 量化在 iPhone 上的实测提速与内存节省,并提供了可直接下载的优化模型及自定义转换指南。

6月12日周一
6月5日周一
  1. Hugging Face Blog84

    Falcon 系列大语言模型正式登陆 Hugging Face 生态

    阿布扎比技术创新研究所(TII)发布的 Falcon 系列开源大语言模型已全面集成至 Hugging Face 生态系统。该系列包含 Falcon-7B 和 Falcon-40B 两个基础版本及对应的指令微调版,均采用 Apache 2.0 许可证并支持商业使用。

    推荐理由:原文详细展示了 Falcon 模型在 Hugging Face 生态中的推理、量化及微调全流程,为开发者提供了可直接复用的工程实践指南。

5月24日周三
5月23日周二
  1. Hugging Face Blog62

    Safetensors 通过安全审计并将成为 Hugging Face 默认模型格式

    Hugging Face、EleutherAI 和 Stability AI 联合委托 Trail of Bits 对 safetensors 库进行的外部安全审计已完成,结果显示未发现导致任意代码执行的关键安全漏洞。

    推荐理由:原文披露了 safetensors 通过外部安全审计的结果及成为默认格式的路径,读者可据此评估模型加载的安全性与性能收益。

5月15日周一
5月11日周四
  1. Hugging Face Blog60

    Hugging Face 提出 Assisted Generation 方法以降低文本生成延迟

    Hugging Face 推出 Assisted Generation 解码方法,通过让小模型快速生成候选序列并由大模型并行验证,将文本生成延迟降低最高 10 倍。该方法已集成至 🤗 Transformers 库,用户只需传入 `assistant_model` 参数即可启用,特别适用于语音识别或摘要等输入导向任务。

    推荐理由:原文详细拆解了利用小模型辅助大模型生成以突破显存带宽瓶颈的方法,并提供了在 Transformers 库中直接复用的代码实现与性能基准。

5月9日周二
  1. Hugging Face Blog62

    Hugging Face 演示如何微调 StarCoder 打造编程助手 StarChat

    Hugging Face 发布教程展示如何将 BigCode 的 StarCoder 模型微调为对话式编程助手 StarChat。文章介绍了使用 ChatML 格式处理 OpenAssistant 数据集、通过 DeepSpeed ZeRO-3 进行训练的技术细节,并探讨了基于 LLM 的自动化评估方法及模型的局限性。

    推荐理由:原文详细展示了利用OpenAssistant数据微调StarCoder构建对话式编程助手的全过程,提供了ChatML格式处理、DeepSpeed训练配置及评估方法等可复用的技术细节。

5月4日周四
4月26日周三
4月5日周三
3月24日周五
  1. Hugging Face Blog70

    Hugging Face 详解如何使用 diffusers 训练自定义 ControlNet

    Hugging Face 发布教程,指导用户利用 diffusers 库训练基于面部关键点条件的 ControlNet 模型。文章以 FaceSynthetics 数据集为例,演示了数据构建、使用 SPIGA 模型生成条件图以及通过 BLIP 添加描述的过程。

    推荐理由:原文详细拆解了从数据准备到模型训练的全流程,并提供了针对低显存 GPU 的具体优化参数,适合开发者复现 ControlNet 定制训练。

3月9日周四
  1. Hugging Face Blog82

    Hugging Face 发布 TRL 与 PEFT 集成指南:在 24GB GPU 上微调 20B LLM

    Hugging Face 正式发布了 trl 库与 peft 库的集成方案,使得用户能够在单张 24GB 消费级 GPU(如 NVIDIA 4090)上对 20B 参数的大语言模型进行基于强化学习的人类反馈(RLHF)微调。该方案通过结合 8-bit 量化加载、低秩适配器(LoRA)以及共享参考模型权重等技术,大幅降低了显存需求,并提供了从基础微调到情感导向 RL 训练的完整脚本示例。

    推荐理由:原文给出了在单张24GB消费级GPU上微调20B模型的具体步骤和代码示例,为资源受限环境下的RLHF实践提供了可复用的技术路径。

3月3日周五
2月15日周三
2月10日周五
1月26日周四
  1. Hugging Face Blog82

    Hugging Face 发布 diffusers 中 LoRA 用于 Stable Diffusion 高效微调的指南

    Hugging Face 在 diffusers 库中正式支持使用 LoRA 技术对 Stable Diffusion 进行高效微调。该方法通过冻结预训练权重并注入可训练层,使全量微调仅需 11 GB VRAM 即可运行,且生成的权重文件仅约 3 MB,比原始 UNet 模型小约一千倍。

    推荐理由:原文提供了在 diffusers 中使用 LoRA 进行 Stable Diffusion 微调的具体脚本和推理代码,展示了显著降低显存需求和模型文件大小的实际效果。