跳到正文

教程实践

拿来就能用的实操内容:提示词技巧、工作流搭建、工具用法与踩坑经验。

106条精选相关主题AI 编码Agent 智能体产品更新

最新精选

第 81–100 条 · 共 106 条
11月9日周四
  1. Hugging Face Blog85

    Hugging Face 发布 Latent Consistency LoRAs 实现 SDXL 4 步快速生成

    Hugging Face 推出 Latent Consistency Models (LCM) LoRAs,允许在 Stable Diffusion XL 和 SD v1.5 等模型上通过仅 4-8 步推理实现高质量图像生成,显著加速过程(如 M1 Mac 上从约 60 秒降至 6 秒)。

    推荐理由:提供了将LCM LoRA应用于SDXL等模型的具体代码与基准测试,展示了如何在保持画质的前提下大幅降低推理步数并提升生成速度。

10月27日周五
  1. Hugging Face Blog68

    Hugging Face 发布个人编程助手微调指南

    Hugging Face 发布教程展示如何微调 StarCoder 模型创建个人编程助手 HugCoder。文章详述了从 GitHub 收集数据、使用 PEFT (QLoRA) 进行高效微调的流程,并对比了不同硬件配置下的训练成本与效果。此外,还提供了通过 VS Code 插件集成云端推理端点以及在 Mac 等消费级设备上本地部署小参数模型的实操步骤。

    推荐理由:原文提供了基于私有代码库微调 StarCoder 的完整工作流,包含 QLoRA 与全量微调的成本对比及本地部署方案。

10月24日周二
  1. Hugging Face Blog73

    Hugging Face 详解 RLHF with PPO 的实现细节及优化器差异

    Hugging Face 团队发布博客文章,详细解析了基于 PPO 的 RLHF(人类反馈强化学习)实现细节。该研究成功复现了 OpenAI 2019 年 lm-human-preferences 代码库的学习曲线,并整理了一份关键实施清单。

    推荐理由:原文通过复现 OpenAI 早期 RLHF 代码,揭示了 PyTorch 与 TensorFlow Adam 优化器在数值实现上的差异及其对模型训练稳定性的具体影响。

10月3日周二
  1. Hugging Face Blog63

    Hugging Face 推出 Chat Templates 以解决聊天模型格式错配问题

    Hugging Face 在 tokenizers 中引入 chat_template 属性,允许使用 Jinja 模板保存和加载模型训练时的聊天格式。该功能旨在解决不同模型采用各异的消息转换格式导致输入分布偏移、进而引发严重且难以调试的性能下降问题。开发者可通过 tokenizer.apply_chat_template() 方法自动格式化对话历史,确保推理或微调时的输入与训练数据一致。

    推荐理由:原文提供了将聊天格式作为Jinja模板存入tokenizer的方法,有助于开发者规避因格式不匹配导致的模型性能静默下降。

9月15日周五
  1. Hugging Face Blog62

    Hugging Face 详解 LLM 生产环境优化:低精度、Flash Attention 与架构创新

    Hugging Face 发布博客文章,系统介绍了大语言模型在生产环境中降低显存需求和提升推理效率的三大核心技术:低精度量化(8-bit/4-bit)、Flash Attention 算法以及针对长文本优化的模型架构(如 RoPE、ALiBi、MQA 和 GQA)。

    推荐理由:原文通过代码实测对比了低精度量化、Flash Attention 及 MQA/GQA 架构在显存占用与推理速度上的具体差异,为 LLM 生产环境优化提供了可复用的技术选型依据。

9月8日周五
  1. Hugging Face Blog60

    Hugging Face 发布 SDXL 的 T2I-Adapter 支持指南与模型权重

    Hugging Face Diffusers团队联合T2I-Adapter作者发布了针对Stable Diffusion XL (SDXL)的T2I-Adapter支持,提供sketch、canny、lineart、depth和openpose等多种条件的预训练检查点。

    推荐理由:原文提供了T2I-Adapter在SDXL上的训练细节、参数对比及diffusers库中的具体代码用法,便于开发者复现高效可控生成。

8月30日周三
  1. Hugging Face Blog62

    Hugging Face 发布 AudioLDM 2 在 Diffusers 中的推理加速教程

    Hugging Face 发布教程展示如何在 🧨 Diffusers 库中优化 AudioLDM 2 模型的推理速度,将生成 10 秒音频的时间从约 30 秒缩短至不到 1 秒。

    推荐理由:原文通过逐步演示代码优化技巧,展示了如何将 AudioLDM 2 的推理时间缩短十倍以上,为开发者提供了可直接复用的性能调优方法。

8月8日周二
  1. Hugging Face Blog77

    Hugging Face 发布使用 DPO 微调 Llama 2 的实践指南

    Hugging Face 博客介绍了如何在 TRL 库中使用直接偏好优化(DPO)方法微调 Llama v2 7B 模型。文章详细演示了从监督微调(SFT)到 DPO 训练的全流程,包括数据格式准备、QLoRA 配置及关键超参数 beta 的设置,并提供了可复用的代码示例和最终模型链接。

    推荐理由:提供了在TRL库中使用DPO微调Llama 2的完整代码与流程,展示了如何绕过复杂RLHF步骤直接优化偏好数据。

7月27日周四
  1. Hugging Face Blog65

    Hugging Face 发布 Stable Diffusion XL 在 Mac 上的 Core ML 部署与高级量化指南

    Hugging Face 联合 Apple 发布 Stable Diffusion XL 的 Core ML 版本,并介绍混合位量化技术以优化 Mac 端运行效率。该技术在保持高画质的同时将模型体积压缩至 1.4 GB(减少 71%),支持在 macOS 14 beta 上通过 CPU+GPU 运行。官方已开源转换脚本、推理 Demo 及预计算量化配方,开发者可直接复用或应用于其他微调模型。

    推荐理由:文章详解了混合位量化技术原理及在 Stable Diffusion XL 上的应用,提供了从模型转换到性能测试的完整开源工具链。

5月24日周三
5月23日周二
  1. Hugging Face Blog62

    Safetensors 通过安全审计并将成为 Hugging Face 默认模型格式

    Hugging Face、EleutherAI 和 Stability AI 联合委托 Trail of Bits 对 safetensors 库进行的外部安全审计已完成,结果显示未发现导致任意代码执行的关键安全漏洞。

    推荐理由:原文披露了 safetensors 通过外部安全审计的结果及成为默认格式的路径,读者可据此评估模型加载的安全性与性能收益。

5月11日周四
  1. Hugging Face Blog60

    Hugging Face 提出 Assisted Generation 方法以降低文本生成延迟

    Hugging Face 推出 Assisted Generation 解码方法,通过让小模型快速生成候选序列并由大模型并行验证,将文本生成延迟降低最高 10 倍。该方法已集成至 🤗 Transformers 库,用户只需传入 `assistant_model` 参数即可启用,特别适用于语音识别或摘要等输入导向任务。

    推荐理由:原文详细拆解了利用小模型辅助大模型生成以突破显存带宽瓶颈的方法,并提供了在 Transformers 库中直接复用的代码实现与性能基准。

5月9日周二
  1. Hugging Face Blog62

    Hugging Face 演示如何微调 StarCoder 打造编程助手 StarChat

    Hugging Face 发布教程展示如何将 BigCode 的 StarCoder 模型微调为对话式编程助手 StarChat。文章介绍了使用 ChatML 格式处理 OpenAssistant 数据集、通过 DeepSpeed ZeRO-3 进行训练的技术细节,并探讨了基于 LLM 的自动化评估方法及模型的局限性。

    推荐理由:原文详细展示了利用OpenAssistant数据微调StarCoder构建对话式编程助手的全过程,提供了ChatML格式处理、DeepSpeed训练配置及评估方法等可复用的技术细节。

4月26日周三
4月5日周三
3月24日周五
  1. Hugging Face Blog70

    Hugging Face 详解如何使用 diffusers 训练自定义 ControlNet

    Hugging Face 发布教程,指导用户利用 diffusers 库训练基于面部关键点条件的 ControlNet 模型。文章以 FaceSynthetics 数据集为例,演示了数据构建、使用 SPIGA 模型生成条件图以及通过 BLIP 添加描述的过程。

    推荐理由:原文详细拆解了从数据准备到模型训练的全流程,并提供了针对低显存 GPU 的具体优化参数,适合开发者复现 ControlNet 定制训练。

3月9日周四
  1. Hugging Face Blog82

    Hugging Face 发布 TRL 与 PEFT 集成指南:在 24GB GPU 上微调 20B LLM

    Hugging Face 正式发布了 trl 库与 peft 库的集成方案,使得用户能够在单张 24GB 消费级 GPU(如 NVIDIA 4090)上对 20B 参数的大语言模型进行基于强化学习的人类反馈(RLHF)微调。该方案通过结合 8-bit 量化加载、低秩适配器(LoRA)以及共享参考模型权重等技术,大幅降低了显存需求,并提供了从基础微调到情感导向 RL 训练的完整脚本示例。

    推荐理由:原文给出了在单张24GB消费级GPU上微调20B模型的具体步骤和代码示例,为资源受限环境下的RLHF实践提供了可复用的技术路径。

3月3日周五
2月15日周三
1月26日周四
  1. Hugging Face Blog82

    Hugging Face 发布 diffusers 中 LoRA 用于 Stable Diffusion 高效微调的指南

    Hugging Face 在 diffusers 库中正式支持使用 LoRA 技术对 Stable Diffusion 进行高效微调。该方法通过冻结预训练权重并注入可训练层,使全量微调仅需 11 GB VRAM 即可运行,且生成的权重文件仅约 3 MB,比原始 UNet 模型小约一千倍。

    推荐理由:原文提供了在 diffusers 中使用 LoRA 进行 Stable Diffusion 微调的具体脚本和推理代码,展示了显著降低显存需求和模型文件大小的实际效果。