OpenAI 助力 Summer Health 提升儿科就诊记录准确性
Summer Health 利用 OpenAI 技术重新构想儿科医生问诊流程,旨在提高儿科就诊记录的准确性。该合作展示了大语言模型在医疗文档自动化与质量优化方面的具体应用潜力。
Summer Health 利用 OpenAI 技术重新构想儿科医生问诊流程,旨在提高儿科就诊记录的准确性。该合作展示了大语言模型在医疗文档自动化与质量优化方面的具体应用潜力。
Mistral AI 正式开放其首个平台服务 La Plateforme 的 beta 访问权限,旨在为开发者提供部署和定制开源生成模型的高效途径。该平台目前提供 mistral-tiny、mistral-small 和 mistral-medium 三个文本生成端点以及一个 embedding 端点,各端点在性能与价格上有所区分。
推荐理由:Mistral AI 开放平台 beta 服务,提供三个不同性能与价格权衡的生成端点及嵌入端点,并给出具体基准分数。
Hugging Face 宣布其 Transformers 库和 Text Generation Inference (TGI) 现已原生支持 AMD Instinct MI250 等 GPU,用户无需修改代码即可在 AMD 硬件上运行大语言模型。
推荐理由:原文展示了 AMD GPU 在无需修改代码的情况下运行 Hugging Face 模型的能力,并提供了与 NVIDIA A100 对比的性能基准数据。
Hugging Face 推出 Optimum-NVIDIA 推理库,旨在通过 NVIDIA TensorRT-LLM 和 FP8 格式大幅加速大语言模型推理。
Explosion 推出 Prodigy-HF 插件,实现 Prodigy 标注工具与 Hugging Face 生态的直接集成。该插件支持通过 `hf.train.ner` 等命令微调任意 Transformer 模型(如 distilbert-base-uncased),并允许将标注数据集上传至 Hugging Face Hub。
OpenAI 正式推出 GPTs,这是一项新功能,允许用户通过自然语言对话轻松创建个性化的 ChatGPT 版本。用户可以自定义指令、上传知识文件并配置外部动作,从而构建针对特定任务或领域的专用智能体,且全程无需编写代码。
推荐理由:OpenAI 官方发布 GPTs,允许用户通过自然语言创建定制化的 AI 助手,无需编写代码即可结合指令、知识和动作。
Hugging Face 在 Enterprise Hub 计划中推出 Storage Regions 功能,允许用户指定模型和数据集的存储位置。目前支持美国(US)和欧盟(EU)区域,亚太地区即将上线。该功能旨在满足 GDPR 等合规要求并提升数据主权,同时优化性能:例如将仓库存储在欧盟区域的欧洲用户,其上传下载速度比存储在美国时快约 4-5 倍。
OpenAI 宣布 DALL·E 3 现已在 ChatGPT 中可用。官方同时指出正在推进关于模型输出内容来源(provenance)的研究工作。
Hugging Face 推出 @gradio/lite,这是一个利用 Pyodide 技术让 Gradio 应用直接在浏览器中运行的 JavaScript 库。
推荐理由:官方介绍了基于 Pyodide 的浏览器端 Gradio 运行方案,展示了无需服务器即可部署交互式 ML 应用的代码示例与隐私优势。
Retool 使用 GPT-4 为企业提供快速、安全地构建 AI 驱动应用程序的方法。该方案旨在简化企业级 AI 应用的开发流程,确保在提升效率的同时保障数据安全。
Typeform 借助 GPT-3.5 和 GPT-4,将传统在线表单升级为动态且具备对话能力的数据收集体验。这一转变使数据收集过程更加灵活互动,提升了用户填写体验与数据获取效率。
Ironclad 利用 GPT-4 模型来简化合同审查流程。该应用旨在通过人工智能技术优化法律文档的处理效率,降低人工审核的复杂性。
ONNX Runtime 支持加速 Hugging Face 平台上超过 130,000 个模型,涵盖 BERT、GPT2 等 90 多种架构。以 whisper-tiny 为例,其推理平均延迟较 PyTorch 降低高达 74.30%。该工具通过优化性能助力大语言模型及云端模型的部署。
OpenAI 宣布 ChatGPT 新增视觉和听觉功能,支持用户通过图像和语音进行交互。该更新使模型能够处理非文本输入并生成相应回复,扩展了对话场景。
推荐理由:官方宣布 ChatGPT 具备视觉和听觉能力,用户可据此了解交互方式从纯文本向多模态的转变。
Hugging Face 推出 Inference for PRO,为付费用户提供 Meta Llama 3、Mixtral 8x7B 等精选模型的专属 API 端点及更高速率限制。该服务基于 text-generation-inference 实现超快推理,支持通过 HTTP POST 或 huggingface_hub Python 库调用,适用于原型开发而非重型生产环境。
Hugging Face 推出企业级代码助手 SafeCoder,基于 15.5B 参数的开源 StarCoder 模型。该方案支持私有化部署与微调,提供透明训练数据及无遥测隐私保护,解决闭源服务无法定制的问题。
OpenAI 宣布推出 ChatGPT Enterprise,面向企业用户提供新的服务版本。
Hugging Face 宣布将 AutoGPTQ 库集成到 Transformers 中,允许用户使用 GPTQ 算法以 8、4、3 或 2-bit 精度对大语言模型进行量化和运行。
推荐理由:官方详细说明了 AutoGPTQ 集成后的量化精度、显存节省数据及多硬件支持情况,为开发者评估低资源部署方案提供了具体技术依据。
OpenAI 宣布开发者现在可以使用自己的数据对 GPT-3.5 Turbo 进行微调,从而针对特定用例定制模型。此次更新还包含相关的 API 调整。
推荐理由:OpenAI 开放了 GPT-3.5 Turbo 的微调能力,开发者可利用自有数据定制模型以适配特定场景。
Hugging Face 发布 SafeCoder,这是一款基于 StarCoder 模型的企业级自托管代码助手解决方案。该方案允许客户在自有基础设施上微调专有代码库,确保数据在训练和推理期间不离开 VPC。SafeCoder 支持 NVIDIA、AMD 等多种硬件加速部署,旨在提供合规且私有的“内部 GitHub Copilot”体验。
Hugging Face Hub 正式入驻 AWS Marketplace,用户现可通过 AWS 账户直接订阅并支付 Inference Endpoints、Spaces Hardware Upgrades 及 AutoTrain 等服务费用。该集成计费方式允许组织成员统一通过 AWS 账单结算,无需绑定信用卡,旨在降低企业采用 Llama 2、StarCoder 等大语言模型的技术门槛。
Hugging Face 发布 swift-transformers、swift-chat 及更新的模型导出工具,旨在帮助开发者在 Mac 和 iPhone 等苹果设备上通过 Core ML 运行 Llama 2 等大语言模型。
推荐理由:原文提供了在苹果设备上运行大语言模型的完整工具链和转换指南,开发者可据此评估本地化部署的可行性。
Hugging Face 推出 Huggy Lingo,利用机器学习检测 Hub 上缺失语言元数据的约 87% 数据集。该方案通过 dataset viewer API 获取文本样本,调用 facebook/fasttext-language-identification 模型识别 217 种语言,并借助 librarian-bots 自动提交 PR 补充元数据,以提升多语言数据集的可发现性。
Hugging Face 发布 Agents.js,这是一个允许在浏览器或服务器端通过 JavaScript 赋予大语言模型工具访问权限的新库。该库默认使用 OpenAssistant/oasst-sft-4-pythia-12b-epoch-3.5 模型,支持自定义 LLM 及扩展多模态工具,但直接运行代码存在安全风险,建议配合 generateCode 和 evaluateCode 方法使用。
OpenAI 通过官方新闻源发布了新的产品功能更新。该消息源自 OpenAI News RSS 订阅,具体功能细节未在标题中展开,需查阅原文获取完整信息。
推荐理由:官方公告确认了 OpenAI 平台的一项新功能上线,读者可据此了解当前可用的产品能力变化。
Viable 使用 GPT-4 以革命性的规模和前所未有的准确性分析定性数据。
Hugging Face 联合 Apple 推出基于 Core ML 的 Stable Diffusion 加速方案,利用 6-bit palettization 技术显著降低模型体积并提升 iPhone、iPad 和 Mac 上的推理速度。
推荐理由:官方展示了 Core ML 6-bit 量化在 iPhone 上的实测提速与内存节省,并提供了可直接下载的优化模型及自定义转换指南。
OpenAI 于2023年6月13日发布了新的功能更新。
Hugging Face Hub 新增功能,允许用户通过 DuckDB 对存储于 Hub 上的数据集运行 SQL 查询。该功能利用自动转换的 Parquet 文件及 httpfs 扩展,实现直接读取远程数据并支持多文件查询。此举旨在帮助用户更高效地探索和分析用于训练 LLM 的大规模数据集内容。
Hugging Face Hub 现已托管 Meta AI 开源的 fastText 库官方镜像,涵盖 157 种语言的词向量及最新语言识别模型。用户可通过 huggingface_hub 库一键下载并调用预训练模型,支持文本分类与特征提取等 Widget 功能。
Hugging Face Hub 正式集成 BERTopic,支持在平台上直接进行主题建模。该功能允许用户利用预训练模型和数据集快速分析文本主题分布,简化了从数据准备到模型部署的工作流。
OpenAI 正式发布 ChatGPT 的 iOS 应用程序。该应用支持对话记录同步和语音输入功能,并将最新的模型改进直接提供给移动端用户。
推荐理由:官方确认iOS版ChatGPT应用支持对话同步与语音输入,并集成最新模型改进。
ChatGPT 用户现在可以关闭聊天历史记录,从而自主选择哪些对话可用于训练模型。这一更新赋予了用户对个人数据流向的更多控制权,允许在保留使用便利性与保护隐私之间进行平衡。
OpenAI 通过官方新闻渠道发布了新的产品功能。该更新由 OpenAI 直接宣布,标志着其产品线的一次重要扩展。
推荐理由:官方宣布的新功能入口,读者可据此了解 OpenAI 在模型能力之外的最新产品动向。
Hugging Face Hub 新增对 Jupyter Notebook 的渲染支持,将 `.ipynb` JSON 文件转换为人类可读格式。该更新允许用户一键在 Google Colab 中直接打开 Hub 上的笔记本,并支持将 Notebook 作为模型与数据集开发文档的一部分进行共享。
GPT-4 被用于深化 Duolingo 的对话功能,以填补关键的语言学习空白。
Be My Eyes 采用 GPT-4 技术,旨在彻底改变视觉障碍用户的无障碍体验。该应用通过集成 OpenAI 的大语言模型能力,提升了辅助视障人士的功能表现。
Hugging Face 推出 🧨Diffusers for Mac v1.1,该开源应用利用 Core ML 优化 Stable Diffusion 模型在 Apple Silicon 上的运行。新版本通过自动选择 GPU 或神经引擎(ANE)作为最佳加速器,使文本生成图像速度最高提升 2 倍。用户可在 Mac App Store 下载体验本地化、隐私保护且无需命令行操作的 AI 绘图功能。
Hugging Face 正式推出 🤗 PEFT 库,集成 LoRA、Prefix Tuning 等参数高效微调技术,旨在解决大模型全量微调算力与存储成本过高的问题。
推荐理由:官方发布 PEFT 库,提供 LoRA 等参数高效微调方法,支持在消费级硬件上低成本训练大模型并实现多任务权重复用。
Microsoft Research Asia 开发的 SpeechT5 模型现已在 🤗 Transformers 中可用。该模型基于统一模态编码器-解码器架构,通过预训练实现文本到语音(TTS)、自动语音识别(ASR)及语音到语音(S2S)转换。开发者可通过加载 `microsoft/speecht5_tts` 检查点及 speaker embeddings 快速集成多任务语音处理能力。