跳到正文

#部署/工程

今日 1 条
今天10月2日周五
  1. TechCrunch · AI73

    谷歌称Starship需发射1800次才能支撑太空数据中心

    谷歌发射首颗搭载Tensor Processing Unit (TPU)的轨道计算卫星,并发表关于轨道数据中心的同行评审论文。该研究指出,为实现具有成本效益的太空数据中心,SpaceX的Starship火箭需在十年内完成约1800次发射,将每公斤发射成本降至200美元左右。谷歌认为其芯片能在太空中承受辐射并处理推理负载,但大规模训练仍面临挑战。

10月1日周四
9月23日周三
9月22日周二
  1. NVIDIA Blog33

    NVIDIA 推出 DSX Ready 认证计划,涵盖电池储能与冷却分配单元

    NVIDIA 发布 DSX Ready 认证计划,旨在验证符合其 AI 工厂参考设计的电源与冷却产品。首批类别包括电池储能系统(BESS)和冷却分配单元(CDU),Hitachi Energy、Tesla、LG Electronics 等厂商的产品已获认证。该计划通过标准化测试降低集成风险,帮助构建者更自信地评估并部署基础设施组件。

  2. NVIDIA Blog18

    NVIDIA 推动埃及 AI 生态迈向生产规模

    NVIDIA 在埃及举办活动展示其AI生态从赋能转向执行,Deep Learning Institute学习者数量一年内增长超十倍。Hassan Allam Utilities与A15达成约4亿美元数据中心投资协议,Cassava Technologies计划在南非及埃及等地部署AI工厂,潜在投资达7.2亿美元。

9月10日周四
7月30日周四
6月13日周六
6月11日周三
4月9日周三
12月5日周二
  1. Hugging Face Blog65

    Hugging Face 宣布支持 AMD Instinct GPU 的大语言模型开箱即用加速

    Hugging Face 宣布其 Transformers 库和 Text Generation Inference (TGI) 现已原生支持 AMD Instinct MI250 等 GPU,用户无需修改代码即可在 AMD 硬件上运行大语言模型。

    推荐理由:原文展示了 AMD GPU 在无需修改代码的情况下运行 Hugging Face 模型的能力,并提供了与 NVIDIA A100 对比的性能基准数据。

9月19日周二
  1. Hugging Face Blog24

    Rocket Money 与 Hugging Face 合作:在生产环境中扩展易变 ML 模型

    Rocket Money 选择 Hugging Face Inference API 托管其 BERT 系列文本分类模型,以替代原有正则表达式系统处理每月超 1 亿笔交易。该方案解决了小团队缺乏 MLOps 专业知识的痛点,实现了动态扩展和低延迟推理。经过三个月评估,Hugging Face 凭借快速部署能力和合作伙伴支持成为最终选择。

9月1日周五
  1. Hugging Face Blog15

    Fetch 利用 Amazon SageMaker 与 Hugging Face 将 ML 处理延迟降低 50%

    Fetch 通过迁移至 Amazon SageMaker 并集成 Hugging Face AWS Deep Learning Container,成功将其最慢扫描的机器学习处理延迟降低 50%,同时文档理解模型准确率提升 200%。该方案支持每周处理超过 8000 万张收据,利用多 GPU 实例和并行训练实现了高并发下的快速推理与规模化部署。