Hugging Face 推出 Google Cloud TPU 支持
Hugging Face 宣布在其 Inference Endpoints 和 Spaces 中正式支持 Google Cloud TPUs。用户现在可以选择 TPU v5e 实例(v5litepod-1/4/8)来部署模型,每小时价格从 $1.375 到 $11.00 不等。
Hugging Face 宣布在其 Inference Endpoints 和 Spaces 中正式支持 Google Cloud TPUs。用户现在可以选择 TPU v5e 实例(v5litepod-1/4/8)来部署模型,每小时价格从 $1.375 到 $11.00 不等。
Hugging Face Dataset Hub 推出四项新搜索功能,支持按模态、行数规模、存储格式及兼容库筛选超过180,000个公开数据集。用户可组合这些过滤器与现有语言、任务等条件,精准定位如用于LLM预训练的超10B行数据或特定WebDataset格式资源。
Color Health 与 OpenAI 合作推出 Cancer Copilot,利用 GPT-4o 识别缺失诊断并生成定制化检查计划。该应用旨在加速癌症患者获取治疗,帮助医疗提供者基于证据做出筛查与治疗决策。
Hugging Face 宣布其 Amazon SageMaker Embedding Container 正式可用,支持在 SageMaker 上高效部署嵌入模型以构建 RAG 应用。该容器基于 Text Embedding Inference (TEI) 技术,兼容 BERT、RoBERTa 等架构及 Snowflake Arctic 等开源模型。
Mistral AI 在 la Plateforme 上推出模型定制功能,提供开源微调 SDK、无服务器微调服务及自定义训练服务三种入口。开发者可使用 mistral-finetune 代码库基于 LoRA 范式在自有基础设施上微调开源模型,或通过 API 调用 Mistral 7B 和 Mistral Small 的托管微调服务以降低成本并提升效率。
Hugging Face 联合 Cubzh 和 Gigax 发布 NPC-Playground,这是一个可在浏览器中直接体验的 3D 演示,允许用户与由大语言模型驱动的非玩家角色(NPC)进行交互。该工具利用 Phi-3 和 Mistral-7B 微调模型实现智能对话与动作执行,并支持通过 Lua 脚本自定义 NPC 技能。
OpenAI 推出一项面向大学的平价服务,旨在帮助高校负责任地将 AI 引入校园。该方案专注于提供可负担的接入方式,支持教育机构在合规前提下部署人工智能技术。
Hugging Face 宣布支持在 AWS Inferentia2 上部署超过 10 万个模型,新增 14 种架构和 6 类任务。Inference Endpoints 推出 Inf2-small($0.75/小时)和 Inf2-xlarge($12/小时)实例,适配 Llama 3 8B 与 70B。
Hugging Face Spaces 发布 Dev Mode,允许开发者通过 VS Code 或 SSH 直接连接并编辑代码,无需 git push。该功能目前处于 beta 阶段,仅对 PRO 订阅用户开放。
Hugging Face 与 Dell 联合发布 Dell Enterprise Hub,将开源大语言模型的本地训练与部署时间从数周缩短至几分钟。该中心提供 Llama 3、Mixtral 和 Gemma 等模型,支持通过脚本自动部署为 API 端点,并兼容 OpenAI Messages API。
OpenAI 与行业顶尖选角及导演专家合作,从超过 400 份提交中筛选出 ChatGPT 的 5 种语音。
ChatGPT 升级数据分析功能,支持用户直接交互表格和图表。新增从 Google Drive 和 Microsoft OneDrive 添加文件的能力,简化数据导入流程。
Canva 正在构建由 AI 驱动的 Magic Studio。该平台月活跃用户超 1.75 亿,旨在通过易用界面、海量素材库及省时工具,帮助缺乏设计训练的知识工作者轻松制作演示文稿、视频和社交媒体图形等视觉内容。
Hugging Face 与 LangChain 联合推出 `langchain_huggingface` Python 包,旨在将 Hugging Face 生态最新功能同步至 LangChain。
Hugging Face 发布 Transformers Agents 2.0,引入基于过去观察迭代解决复杂任务的新智能体类型,并将该模块升级为独立库 smolagents。新框架强调代码清晰性与模块化,支持社区共享选项,实测显示基于 Llama-3-70B-Instruct 的智能体在 GAIA Leaderboard 上超越了多个 GPT-4 基线智能体。
推荐理由:官方展示了新框架在GAIA基准测试中超越GPT-4智能体的实测数据,并提供了从Transformers迁移到独立库smolagents的清晰路径。
Hugging Face 现允许用户通过 AWS Marketplace 将组织升级为 Enterprise Hub。该高级订阅提供单点登录、GDPR 合规存储区域及 NVIDIA DGX Cloud 训练等安全与协作功能。升级后计费直接由 AWS 账户管理,价格与公开定价一致。
Hugging Face 发布首个专门评估希伯来语大语言模型的开放排行榜,旨在解决该低资源语言缺乏针对性基准的问题。该榜单包含问答、情感分析、Winograd Schema 和翻译四项任务,采用 few-shot prompt 格式测试模型对希伯来语复杂形态的理解能力。
Hugging Face 正式集成 Artificial Analysis LLM Performance Leaderboard,覆盖超过100个 serverless LLM API 端点。该榜单综合评估模型的质量(基于 MMLU、HumanEval 等)、上下文窗口、定价及推理速度(吞吐量与延迟),支持不同提示长度和并行查询场景下的性能对比。
推荐理由:Hugging Face 引入 Artificial Analysis 排行榜,整合了超过100个API端点的价格、速度和质量数据,为工程师选型提供多维参考。
OpenAI 通过官方新闻渠道发布了关于其产品服务的更新公告。该消息由 OpenAI News RSS 源提供,标志着官方对现有产品线状态的正式通报。
OpenAI 面向 API 客户新增多项企业级功能,重点强化安全特性与控制权限。此次更新涵盖 Assistants API 的改进及更精细的成本管理工具,旨在提升企业用户的安全合规性与运营效率。
Hugging Face 联合 Google Cloud 发布“Deploy on Google Cloud”集成,允许开发者通过 Vertex AI 或 GKE 将数千个基础模型部署为 API Endpoint。
OpenAI 为微调 API 新增功能,帮助开发者更精细地控制微调过程。同时宣布推出构建自定义模型的新方式,进一步扩展其自定义模型计划。
Hugging Face 与 Cloudflare 合作推出 Deploy on Cloudflare Workers AI 集成,允许开发者通过无服务器 API 调用 Llama、Mistral 等开源模型。
OpenAI 调整策略,允许用户在不注册账号的情况下直接体验 ChatGPT。这一变化旨在降低使用门槛,让大众能更便捷地感受 AI 带来的益处。
OpenAI 分享了用于创建自定义语音的模型 Voice Engine 在小规模预览阶段的经验教训。该文章旨在探讨合成语音技术当前面临的挑战以及潜在的发展机遇。
Zelma 使用 GPT-4 让教育数据更易于访问。
OpenAI 自上月向公众推出 Sora 以来,一直与艺术家合作以探索该模型如何辅助其创作流程。
Lighthouz AI 联合 Hugging Face 发布 Chatbot Guardrails Arena,通过社区盲测评估大语言模型及隐私护栏的安全性。
Superhuman 宣布与 OpenAI 合作,引入 AI 技术以重新定义电子邮件体验。该合作旨在开启电子邮件的新纪元,利用人工智能提升用户处理邮件的效率与交互方式。
Hugging Face 推出 Quanto,这是 Optimum 框架下的 PyTorch 量化后端。它支持 int2、int4、int8 和 float8 权重及激活,兼容 CUDA 与 MPS 设备,并集成于 transformers 库中。该工具旨在简化大语言模型及其他模态模型的量化流程,降低部署内存成本。
Hugging Face 联合 NVIDIA 推出 Train on DGX Cloud 服务,允许 Enterprise Hub 用户通过无代码界面在 H100 GPU 上微调 Llama、Mistral 等开源模型。该服务按分钟计费,H100 实例价格为 $8.25/GPU hour,支持 1x 至 8x 配置及 CSV/JSON 数据格式。
Hugging Face 发布 TTS Arena,借鉴 Chatbot Arena 模式让用户盲听并投票比较文本转语音模型。该工具收录 ElevenLabs、MetaVoice、OpenVoice 等 SOTA 模型,通过 Elo 算法生成公开排行榜。此举旨在解决 WER 和 MOS 等传统指标在评估语音自然度时的局限性,实现开源与闭源模型的公平对比。
Mistral AI 推出基于其模型的对话助手 Le Chat,支持 Mistral Large、Mistral Small 及原型模型 Mistral Next。该产品提供企业版 le Chat Enterprise,具备自部署能力和细粒度内容审核机制。目前 Le Chat 无法访问互联网,用户可申请成为 beta 测试者以提供反馈。
Haize Labs 联合 Hugging Face 发布 Red-Teaming Resistance Benchmark,旨在通过高质量的人类对抗提示词测试前沿大语言模型的鲁棒性。
Hugging Face 在 PEFT 库中发布了针对 LoRA 适配器的新合并方法,支持 cat、linear、svd、ties、dare 和 magnitude_prune 等算法。
推荐理由:原文详解了PEFT新增的多种LoRA适配器合并算法及代码示例,提供了从文本到图像生成的具体实践指南与参数调优建议。
OpenAI 正在测试 ChatGPT 的记忆功能,使其能记住用户讨论的内容以提升后续对话的帮助性。同时提供新的控制选项,让用户掌握对 ChatGPT 记忆的管理权。
推荐理由:官方宣布测试记忆功能并强调用户控制权,读者可据此了解 ChatGPT 交互逻辑的变化及隐私管理方式。
Hugging Face 在 Text Generation Inference (TGI) v1.4.0 中推出 Messages API,提供与 OpenAI Chat Completion API 的兼容性,允许用户从 OpenAI 模型无缝迁移到开源 LLM。
推荐理由:TGI 1.4.0 新增兼容 OpenAI Chat Completion API 的 Messages API,支持通过修改 base_url 无缝切换至开源模型,并兼容 LangChain 和 LlamaIndex。
Hugging Face Text Generation Inference (TGI) 现已在 AWS Inferentia2 和 Amazon SageMaker 上正式可用。
OpenAI 发布面向各规模团队的新计划 ChatGPT Team。该方案提供安全、协作的工作空间,旨在帮助用户在工作中更高效地利用 ChatGPT。
OpenAI 宣布推出 GPT Store。