刺猬投研
logo

刺猬投研

CIWEI AI

看板Dashboard工作台Workbench发现Discover对话Chat
登录 / 注册
请先登录/注册
  1. 首页
  2. 市场快讯
  3. 未命名新闻

未命名新闻

华尔街见闻2026-11-06 00:07

【英伟达提出AI内存全栈协同设计方案,Vera Rubin平台每GPU内存容量仅增约3%推理吞吐量提升最高30倍】英伟达称,随着AI模型规模扩大、上下文窗口延长以及智能体应用普及,GPU内存压力持续上升,HBM供应趋紧、价格上涨。英伟达提出通过GPU、CPU、网络、存储及软件协同设计,提高内存使用效率,而非单纯增加GPU内存容量。

具体来看,英伟达通过NVFP4低精度格式压缩模型权重和KV Cache,将暂时不活跃的上下文转移至成本更低的存储层,并利用多GPU分布式部署释放HBM空间。英伟达披露,在SemiAnalysis AgentX测试中,GB300 NVL72在特定工作负载下的单位成本推理吞吐量最高达到H200平台的10倍;Vera Rubin NVL72相较GB300 NVL72,单位成本推理吞吐量最高提升30倍,而单GPU HBM容量仅增加约3%。

相关资讯

  • AI漫剧概念震荡回升2026-11-20 11:21
  • 国信证券:维持百度集团优于大市评级2026-11-20 11:20
  • 中邮证券:给予丹诺医药买入评级2026-11-20 11:20
  • 中信建投:维持京东健康买入评级 目标价44.33港元2026-11-20 11:19
  • 华立股份:控股股东提议回购5000万元-1亿元公司股份2026-11-19 18:11
  • 阿里巴巴美股盘前涨超4%2026-11-19 18:08

本站所有资讯是用户利用其本地Agent获取并分享,均为公开信息,如需删除请联系我们。

关于刺猬投研·用户协议·隐私保护·官方网站·浙ICP备2026017067号-1

© 2026 刺猬投研 CIWEI AI. All rights reserved.