谷歌称Starship需发射1800次才能支撑太空数据中心
谷歌发射首颗搭载Tensor Processing Unit (TPU)的轨道计算卫星,并发表关于轨道数据中心的同行评审论文。该研究指出,为实现具有成本效益的太空数据中心,SpaceX的Starship火箭需在十年内完成约1800次发射,将每公斤发射成本降至200美元左右。谷歌认为其芯片能在太空中承受辐射并处理推理负载,但大规模训练仍面临挑战。
谷歌发射首颗搭载Tensor Processing Unit (TPU)的轨道计算卫星,并发表关于轨道数据中心的同行评审论文。该研究指出,为实现具有成本效益的太空数据中心,SpaceX的Starship火箭需在十年内完成约1800次发射,将每公斤发射成本降至200美元左右。谷歌认为其芯片能在太空中承受辐射并处理推理负载,但大规模训练仍面临挑战。
NVIDIA AI 工厂通过提升每兆瓦吞吐量、延长硬件使用寿命及支持多类型工作负载来最大化 ROI。Vera Rubin NVL72 系统较 GB300 NVL72 在 DeepSeek V4 Pro 模型上实现超 30 倍吞吐提升,成本降低至 1/45。CUDA 平台跨代兼容性及持续软件优化确保 A100 等旧款 GPU 长期保持经济价值。
NVIDIA 数据中心系统工程师 Sakeena Fiza 通过严格的验证流程,确保 Rubin GPU 等硬件在量产前具备高可靠性。她致力于在从托盘到机架的复杂环境中排查故障,保障 AI 工厂基础设施的稳定运行。
NVIDIA 发布 DSX Ready 认证计划,旨在验证符合其 AI 工厂参考设计的电源与冷却产品。首批类别包括电池储能系统(BESS)和冷却分配单元(CDU),Hitachi Energy、Tesla、LG Electronics 等厂商的产品已获认证。该计划通过标准化测试降低集成风险,帮助构建者更自信地评估并部署基础设施组件。
NVIDIA 在埃及举办活动展示其AI生态从赋能转向执行,Deep Learning Institute学习者数量一年内增长超十倍。Hassan Allam Utilities与A15达成约4亿美元数据中心投资协议,Cassava Technologies计划在南非及埃及等地部署AI工厂,潜在投资达7.2亿美元。
Mistral 与 Cloudera 宣布合作,将模型集成至混合数据平台,支持在私有云、本地及全隔离环境中运行推理。企业可利用专有数据训练自定义模型并保留所有权,实现数据、智能与计算完全受控的主权 AI 部署。
Hugging Face 指出 GPU 利用率正取代模型智能成为 AI 行业核心约束。类比航空业,GPU 成本按日历小时累积而收益仅随计算时间产生,闲置即浪费。尽管 Anthropic 和 Meta 等巨头已签署多吉瓦算力协议,但企业仍面临从“获取硬件”转向“保持忙碌”的效率挑战。
Google 支持加州大学圣地亚哥分校部署由 2,000 部退役 Pixel 手机组成的计算集群,为研究人员提供低成本、低碳云服务。通过提取主板并替换为通用 Linux 系统,该平台利用 Kubernetes 管理容器化应用,旨在减少硬件制造产生的隐含碳排放。
Mistral AI 正式推出 Mistral Compute,这是一项新的 AI 基础设施服务,旨在为客户提供包含 GPU、编排、API 及产品的私有集成技术栈。
推荐理由:Mistral 推出面向欧洲及全球市场的私有化 AI 基础设施栈,为寻求独立于美中云服务商的企业提供从裸金属到 PaaS 的完整算力方案。
Hugging Face 与 Cloudflare 达成合作,让 FastRTC 开发者通过 Hugging Face token 直接接入企业级 WebRTC 基础设施。该集成在 FastRTC v0.0.20+ 版本可用,每月免费提供 10GB 数据流量,旨在解决 AI 应用部署中 TURN 服务器维护难题并支持低延迟实时音视频流。
Hugging Face 宣布其 Transformers 库和 Text Generation Inference (TGI) 现已原生支持 AMD Instinct MI250 等 GPU,用户无需修改代码即可在 AMD 硬件上运行大语言模型。
推荐理由:原文展示了 AMD GPU 在无需修改代码的情况下运行 Hugging Face 模型的能力,并提供了与 NVIDIA A100 对比的性能基准数据。
Rocket Money 选择 Hugging Face Inference API 托管其 BERT 系列文本分类模型,以替代原有正则表达式系统处理每月超 1 亿笔交易。该方案解决了小团队缺乏 MLOps 专业知识的痛点,实现了动态扩展和低延迟推理。经过三个月评估,Hugging Face 凭借快速部署能力和合作伙伴支持成为最终选择。
Fetch 通过迁移至 Amazon SageMaker 并集成 Hugging Face AWS Deep Learning Container,成功将其最慢扫描的机器学习处理延迟降低 50%,同时文档理解模型准确率提升 200%。该方案支持每周处理超过 8000 万张收据,利用多 GPU 实例和并行训练实现了高并发下的快速推理与规模化部署。