OpenAI 推出 ChatGPT Enterprise
OpenAI 宣布推出 ChatGPT Enterprise,面向企业用户提供新的服务版本。
OpenAI 宣布推出 ChatGPT Enterprise,面向企业用户提供新的服务版本。
Hugging Face 宣布在生态系统中集成 Meta 发布的 Code Llama 模型系列,提供 transformers 4.33+ 支持、Text Generation Inference 部署及 VS Code 扩展。
推荐理由:原文给出了 Code Llama 在 Hugging Face 生态中的集成方式、不同参数规模的能力差异以及具体的部署与微调建议,读者可以据此判断如何将其接入现有开发工作流。
OpenAI 宣布与 Scale 建立合作伙伴关系,旨在为企业客户提供模型微调支持。通过利用 Scale 在人工智能领域的专业知识,OpenAI 的客户能够定制其最先进的模型。
Hugging Face 宣布将 AutoGPTQ 库集成到 Transformers 中,允许用户使用 GPTQ 算法以 8、4、3 或 2-bit 精度对大语言模型进行量化和运行。
推荐理由:官方详细说明了 AutoGPTQ 集成后的量化精度、显存节省数据及多硬件支持情况,为开发者评估低资源部署方案提供了具体技术依据。
OpenAI 宣布开发者现在可以使用自己的数据对 GPT-3.5 Turbo 进行微调,从而针对特定用例定制模型。此次更新还包含相关的 API 调整。
推荐理由:OpenAI 开放了 GPT-3.5 Turbo 的微调能力,开发者可利用自有数据定制模型以适配特定场景。
Hugging Face 推出开源视觉语言模型 IDEFICS,作为 DeepMind Flamingo 的公开复现版本。该模型提供 9B 和 80B 参数两种规模及指令微调变体,支持图文交错输入与文本生成。训练数据包含新创建的 115B token 数据集 OBELICS,模型权重在 Hugging Face Hub 上线并集成至 transformers 库。
推荐理由:原文公开了基于 Flamingo 架构的开源复现细节及 OBELICS 数据集,为社区提供了可验证的多模态大模型训练基准。
Hugging Face 发布 SafeCoder,这是一款基于 StarCoder 模型的企业级自托管代码助手解决方案。该方案允许客户在自有基础设施上微调专有代码库,确保数据在训练和推理期间不离开 VPC。SafeCoder 支持 NVIDIA、AMD 等多种硬件加速部署,旨在提供合规且私有的“内部 GitHub Copilot”体验。
OpenAI 宣布收购 Global Illumination,其整个团队已加入 OpenAI。
OpenAI 利用 GPT-4 辅助制定内容政策及执行审核决策。该应用实现了更一致的标签标注,加速了政策优化的反馈循环,并减少了人工审核员的介入需求。
Hugging Face Hub 正式入驻 AWS Marketplace,用户现可通过 AWS 账户直接订阅并支付 Inference Endpoints、Spaces Hardware Upgrades 及 AutoTrain 等服务费用。该集成计费方式允许组织成员统一通过 AWS 账单结算,无需绑定信用卡,旨在降低企业采用 Llama 2、StarCoder 等大语言模型的技术门槛。
Hugging Face 发布教程,演示如何利用 Optimum 和 Accelerate 库优化基于 🤗 Transformers 的 Bark 文本转语音模型。该方案通过少量代码即可降低内存占用并提升推理速度,文中提供了针对 Bark small 检查点的基准测试结果及 Google Colab 示例。
BentoML 开源平台支持将 Hugging Face 上的 DeepFloyd IF 文本生成图像模型部署至生产环境。该流程涵盖定义模型、创建 Service、构建 Bento 及容器化部署,利用 T5-XXL-1.1 编码提示词并分三阶段在像素空间生成 1024x1024 px 图像。开发者可独立扩展各 Stage Runner 以优化 GPU 资源分配与推理性能。
Hugging Face 发布 swift-transformers、swift-chat 及更新的模型导出工具,旨在帮助开发者在 Mac 和 iPhone 等苹果设备上通过 Core ML 运行 Llama 2 等大语言模型。
推荐理由:原文提供了在苹果设备上运行大语言模型的完整工具链和转换指南,开发者可据此评估本地化部署的可行性。
Hugging Face 博客介绍了如何在 TRL 库中使用直接偏好优化(DPO)方法微调 Llama v2 7B 模型。文章详细演示了从监督微调(SFT)到 DPO 训练的全流程,包括数据格式准备、QLoRA 配置及关键超参数 beta 的设置,并提供了可复用的代码示例和最终模型链接。
推荐理由:提供了在TRL库中使用DPO微调Llama 2的完整代码与流程,展示了如何绕过复杂RLHF步骤直接优化偏好数据。
Hugging Face 演示如何通过自定义 handler 在 Inference Endpoints 上部署 MusicGen。该流程支持文本生成音乐及可选旋律条件,适用于无原生 pipeline 的模型。用户需复制 facebook/musicgen-large 仓库并添加依赖文件即可实现一键部署。
Hugging Face 联合 Zama 利用全同态加密(FHE)技术,在保护用户隐私和模型 IP 的同时运行 GPT2 推理。通过 Concrete-Python 将 Python 函数转换为 FHE 等效操作,并采用量化技术处理权重与激活值。实验显示,对单个注意力头进行 4-bit 量化后,模型仍保持原始精度的 96%。
Hugging Face 推出 Huggy Lingo,利用机器学习检测 Hub 上缺失语言元数据的约 87% 数据集。该方案通过 dataset viewer API 获取文本样本,调用 facebook/fasttext-language-identification 模型识别 217 种语言,并借助 librarian-bots 自动提交 PR 补充元数据,以提升多语言数据集的可发现性。
Segmind 开源基于知识蒸馏训练的 SD-Small 和 SD-Tiny 模型权重及代码,二者参数量分别比基础模型减少 35% 和 55%,推理速度提升最高达 100%。该工作以 Realistic-Vision 4.0 为教师模型,在 LAION Art Aesthetic 数据集上训练,旨在通过压缩生成式 AI 模型实现更快速、低成本的图像生成。
Hugging Face 提供基于 Shap-E 和 Dream Textures 的 PS1 风格 3D 资产生成工作流。该教程指导用户利用 OpenAI 开源扩散模型 Shap-E 生成低多边形模型,并通过 Blender 插件 Dream Textures 添加无缝纹理。最终导出 FBX 文件至 Unity,实现从文本到可用游戏资产的快速转化。
Hugging Face 联合 Apple 发布 Stable Diffusion XL 的 Core ML 版本,并介绍混合位量化技术以优化 Mac 端运行效率。该技术在保持高画质的同时将模型体积压缩至 1.4 GB(减少 71%),支持在 macOS 14 beta 上通过 CPU+GPU 运行。官方已开源转换脚本、推理 Demo 及预计算量化配方,开发者可直接复用或应用于其他微调模型。
推荐理由:文章详解了混合位量化技术原理及在 Stable Diffusion XL 上的应用,提供了从模型转换到性能测试的完整开源工具链。
OpenAI 宣布参与成立新行业组织 Frontier Model Forum,旨在促进前沿 AI 系统的安全与负责任发展。该论坛将推动 AI 安全研究、确立最佳实践与标准,并协助政策制定者与业界进行信息共享。
Hugging Face 发布 Agents.js,这是一个允许在浏览器或服务器端通过 JavaScript 赋予大语言模型工具访问权限的新库。该库默认使用 OpenAssistant/oasst-sft-4-pythia-12b-epoch-3.5 模型,支持自定义 LLM 及扩展多模态工具,但直接运行代码存在安全风险,建议配合 generateCode 和 evaluateCode 方法使用。
Hugging Face 与 Creative Commons、Eleuther AI、GitHub、LAION 及 Open Future 联合发布立场文件,阐述开放 ML 开发对欧盟 AI 法案目标的支持作用。该文件提出五项建议,包括明确定义 AI 组件、澄清开源协作开发不受法案约束、支持 AI Office 与开源生态协调、确保 R&D 例外实用性以及为“基础模型”设定比例要求。
OpenAI 与其他领先实验室通过自愿承诺强化 AI 的安全性、可靠性和可信度。这些举措旨在共同推进人工智能治理进程,确立行业安全标准。
OpenAI 通过官方新闻源发布了新的产品功能更新。该消息源自 OpenAI News RSS 订阅,具体功能细节未在标题中展开,需查阅原文获取完整信息。
推荐理由:官方公告确认了 OpenAI 平台的一项新功能上线,读者可据此了解当前可用的产品能力变化。
OpenAI 与美国新闻项目(American Journalism Project)建立价值超过 500 万美元的合作关系。该合作旨在探索人工智能如何支持充满活力的本地新闻领域,并确保本地新闻机构能够塑造这一新兴技术的未来。
Hugging Face 官方博客于2023年7月18日发布了一篇关于模型发布的文章。
Viable 使用 GPT-4 以革命性的规模和前所未有的准确性分析定性数据。
OpenAI 分享了从22个国家的对话中获得的经验,并说明了未来如何将这些洞察融入工作。
OpenAI 宣布在英国伦敦设立其首个国际办公室。这是该公司首次进行国际业务扩张,标志着其全球化布局的重要一步。
Hugging Face 发布伦理与社会通讯,深入分析 Stable Diffusion、DALL-E 2 等文本到图像模型的偏见成因。文章指出训练数据(如 LAION-5B)、CLIP 推理偏差及潜在空间结构均会导致刻板印象输出。Hugging Face 通过 Stable Bias 项目展示相关探索工具,强调需结合技术手段与社会语境共同应对多模态生成中的公平性挑战。
Hugging Face 团队分析了 Open LLM Leaderboard 上 MMLU 分数与论文数据不一致的原因,指出不同评估实现导致结果显著差异。文章对比了 EleutherAI Harness、Stanford HELM 和原始实现三种方法在提示词构造及概率计算上的区别,展示了同一模型在不同方法下的得分变化。最终确认社区维护的评估库更新后已对齐原始实现,并将重新运行排行榜以修正数据。
推荐理由:原文通过对比三种 MMLU 实现方式,揭示了评估细节对模型分数的巨大影响,为理解 LLM 评测差异提供了具体案例。
Hugging Face 向美国 NTIA 提交关于 AI 问责政策的回复,强调文档与透明度在驱动问责中的作用。建议问责机制应覆盖机器学习开发全流程,结合内部要求与外部访问,并邀请开发者、研究人员及政策制定者等广泛利益相关方参与。
Hugging Face 博客发布了针对低资源语言自动语音识别(ASR)的 MMS Adapter 模型微调教程。该教程展示了如何通过仅训练少量 Adapter 权重,在 Common Voice 数据集上实现比全量微调 XLS-R 更高效、更鲁棒的性能提升。
Hugging Face 通过基准测试证明,Autoformer 模型在 Traffic、Exchange-Rate 和 Electricity 数据集上的 MASE 指标均优于 DLinear,反驳了 Transformer 无效论。同时,NeurIPS 2021 论文提出的 Autoformer 已正式集成至 🤗 Transformers 库,其核心创新包括分解层与自相关机制。
Hugging Face 联合 Apple 推出基于 Core ML 的 Stable Diffusion 加速方案,利用 6-bit palettization 技术显著降低模型体积并提升 iPhone、iPad 和 Mac 上的推理速度。
推荐理由:官方展示了 Core ML 6-bit 量化在 iPhone 上的实测提速与内存节省,并提供了可直接下载的优化模型及自定义转换指南。
Hugging Face 发布更新后的内容指南与政策,旨在支持开放、协作且负责任的机器学习社区。新政策重点强调“同意”作为核心价值,以应对 AI 技术对用户隐私、形象及权利带来的新挑战。平台通过跨团队专家协作制定规则,并鼓励利用 Community Tab 促进用户间的协作解决冲突。
Livebook 演示了如何将基于 Whisper 模型的音频转文字聊天应用部署到 Hugging Face Spaces,全程耗时不足 15 分钟。该案例展示了 Elixir 机器学习生态与 Hugging Face 的深度集成,包括 Bumblebee 库复用 Transformers 架构及 Tokenizers 绑定。
OpenAI 于2023年6月13日发布了新的功能更新。
Hugging Face 宣布 AMD 加入其硬件合作伙伴计划,双方将合作优化 AMD CPU 和 GPU 上的 Transformer 性能。初期测试显示,AMD MI250 训练 BERT-Large 速度比直接竞争对手快 1.2 倍,GPT2-Large 快 1.4 倍。该合作旨在通过 ROCm SDK 集成及新 Optimum 库,为社区提供更具成本效益的训练与推理方案。