Snorkel AI 与 Hugging Face 合作,通过 Inference Endpoints 助力企业利用基础模型
Snorkel AI 与 Hugging Face 建立合作伙伴关系,旨在帮助企业更灵活地利用基础模型。Snorkel Flow 平台集成 Hugging Face 的 Inference Endpoint 服务,使企业能访问超过 150,000 个开源模型,并利用其“暂停和恢复”功能在控制成本的同时按需激活模型 API。
Snorkel AI 与 Hugging Face 建立合作伙伴关系,旨在帮助企业更灵活地利用基础模型。Snorkel Flow 平台集成 Hugging Face 的 Inference Endpoint 服务,使企业能访问超过 150,000 个开源模型,并利用其“暂停和恢复”功能在控制成本的同时按需激活模型 API。
OpenAI 发布文章阐述其 AI 安全理念,强调确保 AI 系统被安全地构建、部署和使用是其使命的关键部分。
Hugging Face 发布了 StackLLaMA 模型的训练指南,展示了如何利用 RLHF 技术微调 LLaMA 7B 模型以回答 Stack Exchange 问题。
推荐理由:原文完整拆解了基于 LLaMA 和 StackExchange 数据的 RLHF 训练全流程,提供了从 SFT、奖励建模到 PPO 优化的具体代码实现与显存优化策略。
Hugging Face 在《Ethics and Society Newsletter #3》中提出“开放且良善”的 ML 使命,通过平衡开放性与风险控制来防止模型危害。平台推出六大伦理标签分类及社区标记功能,旨在通过文档化和工具化手段,确保开源科学在赋能个体的同时最小化潜在伤害。
Hugging Face 通过 Optimum Habana 库实现 BLOOMZ 模型在 Habana Gaudi2 加速器上的高效部署。基准测试显示,Gaudi2 运行 176B 参数 BLOOMZ 比 Nvidia A100 快 1.42 倍,运行 7B 版本快 2.89 倍。
Hugging Face 展示在 Intel Sapphire Rapids CPU 上加速 Stable Diffusion 的方法。使用 Optimum Intel 和 OpenVINO 将 runwayml/stable-diffusion-v1-5 模型转为 bfloat16 并固定分辨率,平均延迟从 32.3 秒降至 4.7 秒。
Hugging Face 联合 Flower 框架提供教程,演示如何在多客户端间联邦训练 distilBERT 模型以进行 IMDB 情感分类。该方案利用 `flwr['simulation']` 在 Google Colab 中模拟联邦环境,通过本地微调并聚合参数,实现在不共享原始数据的前提下完成序列分类任务。
OpenAI 披露了 3 月 20 日 ChatGPT 宕机的调查结果、已采取的行动及技术细节。该事件源于一个软件 Bug,导致用户可能看到其他活跃用户的标题或对话片段。
Hugging Face 发布教程,指导用户利用 diffusers 库训练基于面部关键点条件的 ControlNet 模型。文章以 FaceSynthetics 数据集为例,演示了数据构建、使用 SPIGA 模型生成条件图以及通过 BLIP 添加描述的过程。
推荐理由:原文详细拆解了从数据准备到模型训练的全流程,并提供了针对低显存 GPU 的具体优化参数,适合开发者复现 ControlNet 定制训练。
OpenAI 通过官方新闻渠道发布了新的产品功能。该更新由 OpenAI 直接宣布,标志着其产品线的一次重要扩展。
推荐理由:官方宣布的新功能入口,读者可据此了解 OpenAI 在模型能力之外的最新产品动向。
Hugging Face Hub 新增对 Jupyter Notebook 的渲染支持,将 `.ipynb` JSON 文件转换为人类可读格式。该更新允许用户一键在 Google Colab 中直接打开 Hub 上的笔记本,并支持将 Notebook 作为模型与数据集开发文档的一部分进行共享。
GPT-4 被用于深化 Duolingo 的对话功能,以填补关键的语言学习空白。
Be My Eyes 采用 GPT-4 技术,旨在彻底改变视觉障碍用户的无障碍体验。该应用通过集成 OpenAI 的大语言模型能力,提升了辅助视障人士的功能表现。
冰岛正在利用 GPT-4 模型来保护和传承其本国语言。这一举措展示了大语言模型在文化遗产数字化保存领域的具体应用,旨在通过 AI 技术助力小语种的长期存续与普及。
OpenAI 发布 GPT-4,这是其深度学习规模化工作的最新里程碑。GPT-4 是一个大型多模态模型,接受图像和文本输入并输出文本。尽管在许多现实场景中能力仍不及人类,但它在各类专业和学术基准测试中展现出人类水平的性能。
推荐理由:原文确认 GPT-4 为支持图文输入的多模态大模型,并在专业与学术基准上达到人类水平表现。
Khan Academy 正在通过一个有限的试点项目探索 GPT-4 在虚拟教育课堂中的应用潜力。
Stripe 正在利用 GPT-4 来简化用户体验并打击欺诈行为。该举措旨在通过 AI 技术提升平台的安全性与交互效率,具体实施细节未在原文中展开。
OpenAI 于 2023 年 3 月 14 日发布新模型。原文未提供具体型号、版本或能力细节。
Hugging Face 将 AAAI21 最佳论文 Informer 模型引入 🤗 Transformers,用于多变量概率时间序列预测。该模型通过 ProbSparse 注意力和 Distilling 操作,将自注意力计算复杂度从 O(T²) 降至 O(T log T),有效解决长序列预测中的内存瓶颈问题。
Hugging Face 正式发布了 trl 库与 peft 库的集成方案,使得用户能够在单张 24GB 消费级 GPU(如 NVIDIA 4090)上对 20B 参数的大语言模型进行基于强化学习的人类反馈(RLHF)微调。该方案通过结合 8-bit 量化加载、低秩适配器(LoRA)以及共享参考模型权重等技术,大幅降低了显存需求,并提供了从基础微调到情感导向 RL 训练的完整脚本示例。
推荐理由:原文给出了在单张24GB消费级GPU上微调20B模型的具体步骤和代码示例,为资源受限环境下的RLHF实践提供了可复用的技术路径。
Kakao Brain 联合 Hugging Face 发布基于 700M 图像文本对 COYO 数据集训练的 ViT 和 ALIGN 模型,这是首个开源 ALIGN 模型。
Hugging Face 官方博客发布了 ControlNet 在 Diffusers 库中的集成指南,介绍了 StableDiffusionControlNetPipeline 的使用方法。
推荐理由:原文提供了 ControlNet 在 Diffusers 中的完整集成代码与优化技巧,展示了如何将推理时间降至秒级并大幅降低显存占用。
Hugging Face 志愿者团队开发应用,利用 easyocr、Gradio 及微调的 bert-base-turkish-cased 模型从社交媒体截图和推文提取幸存者地址与需求。通过 Inference API 部署并获 GPU 支持,该方案将非结构化求救信息转为结构化数据以辅助搜救,显著提升了救援响应效率。
Hugging Face 在 Diffusers 库文档中发布伦理框架,指导维护者处理社区贡献并明确透明度、一致性等核心价值观。该指南配套提供“Not For All Eyes”标签、Stable Diffusion 偏见评估空间及 Safe Stable Diffusion 等安全机制。项目还引入 OpenRAILs 许可与 Hub 分阶段发布功能,以平衡开放访问与负责任使用。
Hugging Face 专家通过推荐 Sentence Transformers 架构和 SetFit 库,帮助 Witty Works 构建上下文依赖的非包容性词汇分类器。该方案利用 Siamese 网络生成句子嵌入,仅需每个词 15-20 个标注样本即可实现高效微调,显著降低了数据标注成本并提升了模型在德语和英语语境下的识别准确率。
OpenAI 明确其使命是确保通用人工智能(AGI)造福全人类。该机构指出,AGI 指比人类普遍更聪明的 AI 系统。
Hugging Face Blog 探讨通过红队测试发现 LLM 漏洞,指出 GPT3 等模型易受提示注入攻击并生成有害内容。文章对比了红队与对抗性攻击的区别,强调需结合 RLHF 微调及多组织协作数据集来应对新兴能力带来的安全挑战。
Hugging Face 推出 🧨Diffusers for Mac v1.1,该开源应用利用 Core ML 优化 Stable Diffusion 模型在 Apple Silicon 上的运行。新版本通过自动选择 GPU 或神经引擎(ANE)作为最佳加速器,使文本生成图像速度最高提升 2 倍。用户可在 Mac App Store 下载体验本地化、隐私保护且无需命令行操作的 AI 绘图功能。
Fetch 通过 Hugging Face Expert Acceleration Program 在 AWS 上构建自有文档 AI 模型,将开发时间缩短 30%,延迟降低 50%。该方案利用 Amazon SageMaker 和 AWS Inferentia 加速推理,支持每日处理超 1100 万张收据,替代了原有的第三方黑盒解决方案。
Hugging Face 与 AWS 宣布扩大长期战略合作,旨在通过云工具加速下一代机器学习模型的开放与普及。开发者可利用 Amazon SageMaker、AWS Trainium 和 AWS Inferentia 在云端高效训练、微调及部署模型,从而以更低成本实现高性能生成式 AI 应用开发。
OpenAI 阐述其大语言模型在安全对齐方面的原则,强调通过 RLHF 等技术减少模型幻觉并提升有用性。该策略旨在平衡智能表现与安全约束,确保 AI 输出符合人类价值观且具备可控性。
Salesforce Research 的 BLIP-2 模型已集成至 Hugging Face Transformers,支持零样本图像描述、提示词引导生成及视觉问答。
推荐理由:原文演示了如何在 Transformers 中调用 BLIP-2 完成图像描述与问答,提供了可复用的代码路径。
Hugging Face 推出托管服务 Inference Endpoints,简化模型部署流程。实测显示其 CPU 推理延迟低至 43ms,较原 ECS 方案快两倍以上。尽管成本增加 24%-50%,但显著降低了运维复杂度与认知负荷。
Hugging Face 正式推出 🤗 PEFT 库,集成 LoRA、Prefix Tuning 等参数高效微调技术,旨在解决大模型全量微调算力与存储成本过高的问题。
推荐理由:官方发布 PEFT 库,提供 LoRA 等参数高效微调方法,支持在消费级硬件上低成本训练大模型并实现多任务权重复用。
Microsoft Research Asia 开发的 SpeechT5 模型现已在 🤗 Transformers 中可用。该模型基于统一模态编码器-解码器架构,通过预训练实现文本到语音(TTS)、自动语音识别(ASR)及语音到语音(S2S)转换。开发者可通过加载 `microsoft/speecht5_tts` 检查点及 speaker embeddings 快速集成多任务语音处理能力。
Hugging Face 发布 AI 游戏开发系列第五篇,演示利用 ChatGPT 生成农场游戏故事大纲及物品描述。文章指出语言模型存在复现既有剧情、长文本质量漂移及重复等局限,并提示直接商用可能引发法律与伦理风险。建议将 AI 作为头脑风暴工具,通过多轮迭代优化后由人工撰写最终内容。
Hugging Face 开源了基于 ELO 评分系统的 AI vs. AI 多智能体强化学习竞赛工具,通过模型间对战实现相对实力排名。该系统利用 Spaces 运行后台匹配任务,将结果存入 Dataset 并展示 Leaderboard,首个挑战为 SoccerTwos。
Hugging Face 展示在 Intel Sapphire Rapids CPU 上运行 PyTorch Transformer 模型的推理性能。通过 Optimum Intel 库,对比 Ice Lake 架构,测试了 distilbert、bert 和 roberta 等模型在短长文本序列下的延迟。结果显示新架构能显著提升推理速度,为成本敏感场景提供高效 CPU 方案。
Hugging Face 深入剖析视觉-语言模型(VLM)的训练机制,涵盖对比学习、PrefixLM、交叉注意力融合及 MLM/ITM 等核心策略。文章介绍了如何利用 🤗 Transformers 库实验 CLIP 等最新 VLM 进展,并探讨了零样本图像分类、图文生成及视觉问答等应用场景。
OpenAI 为 ChatGPT 推出名为 ChatGPT Plus 的订阅试点计划。该服务支持对话交互、回答后续问题以及纠正错误假设。
最多提供 50 页,更早的内容请使用搜索或主题页。