英伟达官方发布了RubinGPU架构技术详解

A−A+微博☆•••

英伟达官方发布了RubinGPU架构技术详解,这也是英伟达即将推出的VeraRubin平台的核心计算单元。根据官方公布的数据,在单位能耗下,RubinNVL72+VeraCPU的AgenticAI推理吞吐量,相比BlackwellNVL72+x86CPU提升最高可达10倍。VeraRubin平台相比Blackwell的10倍智能体推理性能提升完整的VeraRubinNVL72机架由36个VeraCPU和72个RubinGPU组成,有关VeraCPU我们已经介绍过,今天的重点是RubinGPU。整体来看,RubinGPU采用台积电3nmN3P制程工艺,由两颗计算芯粒组成,通过NVIDIA高速片间互联接口NV-HBI统一在单个封装上。整颗芯片集成3360亿个晶体管,拥有224个SM流处理器和896个TensorCore张量核心,搭载第三代Transformer引擎,可提供最高50PF的NVFP4推理性能。RubinGPU芯片架构框图显存方面,Rubin集成最高288GBHBM4,共配置8组12-Hi堆叠,峰值带宽达22TB/s,相比Blackwell和BlackwellUltra提升2.8倍。Rubin内存带宽相比Blackwell提升2.8倍此外,第六代NVLink提供3600GB/s扩展带宽用于GPU间全互联通信,NVLink-C2C提供1800GB/s用于CPU-GPU一致性通信,PCIeGen6x16提供256GB/s主机连接。针对当前主流MoE(混合专家)模型的扩展瓶颈,Rubin增强了TensorMemoryAccelerator(TMA),通过优化描述符管理机制,可更高效地定位和调度专家权重,减少数据搬运开销。多个内核还可为共享相同布局的张量保留统一描述符,在运行时直接通过TMA指令覆盖内存指针和步长等字段,减少元数据管理和数据搬运开销,让更多GPU时间用于实际推理计算。Rubin简化MoE描述符管理机制,右为Rubin架构Rubin另一项核心升级是TensorCore,每时钟周期的K维度吞吐量翻倍,意味着更少的循环迭代次数,Blackwell需要4次K迭代的GEMM运算,Rubin只需2次即可完成,减少了循环开销并提高了TensorCore利用率。左为Blackwell,右为Rubin长上下文注意力加速是Rubin的另一大升级,Rubin将激活稀疏化与自适应压缩结合,将中间数据加载为2:4稀疏格式,仅保存非零数据及对应元数据。后续softmax和第二注意力GEMM均可基于非零值运算,同时保持最终输出仍为标准Dense格式,在不改变模型接口的前提下减少计算量和数据搬运。此外,Rubin还提升了Softmax及指数运算性能,FP32吞吐达到GB300水平,是GB200的2倍;BF16/FP16吞吐相比GB200提升4倍,相比GB300提升2倍。Rubin自适应压缩稀疏化在内核间依赖调度方面,Rubin实现了比Blackwell更精细的协调,Blackwell启动允许Kernel更早开始工作,但仍需等待激活数据可用。而Rubin支持瓦片级触发,允许后续Kernel在所需输入数据准备完成后即可提前启动,不用等待更大范围的工作完成,从而压缩GPU时间线中的空闲间隙。上为Blackwell批量触发,下为Rubin瓦片级触发GPU间通信方面,Rubin引入了计数写入(CountedWrites)机制用于设备发起的NVLink通信。传统GPU间数据传输需要额外的协调和同步步骤,计数写入则允许接收端GPU更高效地跟踪传输完成状态,减少同步延迟,让计算不必等待同步操作。通过计数写入加速NVLink通信,左为Blackwell,右为Rubin在机架级能效管理上,VeraRubinNVL72将计算、网络、液冷、功率调节和智能功率平滑整合为单一执行域。系统通过集成储能模块,可吸收GPU瞬时功率波动,平均功耗降低约10%,50毫秒峰值功耗降低约20%。英伟达还推出DSXOS操作系统,其中集成DSXMaxLPS,可统一管理GPU、机柜、液冷系统以及AI工作负载,可在相同功率预算下多部署最多40%的GPU。

中新网昆明10月22日电(时文枝)“我们坚持

  “有些地区出现了多个国际航空枢纽的格局。比如华南的广州、深圳,西南的成都、重庆、昆明,西北的西安、乌鲁木齐。但与成渝不同的是,西北地域辽阔,西安与乌鲁木齐距离非常远,两个枢纽生态位截然不同。”

  数据显示,免签对入境游的促进效果显著。春秋旅游副总经理周卫红此前表示,自中国对多国单方面免签以来,对入境游市场起到积极的推动作用,让来自更多客源地的境外游客能够以更便捷的方式来到中国。

  据介绍,全省夏收工作6月7日基本结束,夏粮丰收已成定局。夏播工作从5月28日大面积展开,截至6月13日,已播种面积7915.2万亩,夏播工作大头落地。初步统计,目前全省因旱不能播种面积323万亩,若未来持续无有效降水,夏播进度将会进一步放慢。

清明假期将至不少小伙伴已经做好了出游计划高速

  体量不及西安的兰州,也拿出大手笔。T3航站楼面积40万平方米,综合交通中心27万平方米,是甘肃民航发展史上规模最大的工程。

  6月13日9时,国家防总针对广西、福建启动防汛四级应急响应,派出两个工作组分赴广西、福建协助指导;新增针对河北、内蒙古启动抗旱四级应急响应,并继续维持针对河南、山东的抗旱四级应急响应,两个工作组正在两省协助指导。

联新资本资源更新及时到位

  2023年7月,中共中央总书记、国家主席、中央军委主席习近平在四川考察时指出,四川要发挥高校和科研机构众多、创新人才集聚的优势和产业体系较为完善、产业基础雄厚的优势,在科技创新和科技成果转化上同时发力。

  • 中共中央政治局委员、外交部长王毅2日同阿曼外  “积极管理你的核心业务,这真是一剂难吃的药。我们有很多艰苦的工作要做。”墨菲表示,虽然底特律汽车制造商需要重新思考在中国的经营方式,但美国电动汽车领导者特斯拉的情况略有不同,与传统的底特律汽车制造商相比,特斯拉在电动汽车零部件方面拥有大约1.7万美元的成本优势,这有助于该公司在中国市场的发展,使其有“更大的发展空间”。(汪品植)
  • 91在线资源内容质量不断提升资源更新及时到位  [环球时报综合报道]“一段时间以来,比亚迪、吉利等中国自主品牌的崛起给不少外国汽车品牌带来压力。”美国CNBC网站18日报道称,美银证券汽车产业分析师约翰·墨菲当天在美国汽车媒体协会有关活动中表示,美国底特律三巨头(即通用汽车、福特汽车和斯特兰蒂斯)应“尽快”退出中国市场。他同时警告说,美国三大车企需要采取更严厉的措施削减开支,尤其是在内燃机业务方面,因为这是目前利润的主要来源。
  • 时值各大电商平台“618”促销之际,全国快递件再迎高峰  6月17日,澎湃新闻(www.thepaper.cn)从陈政高同志多位亲友处获悉,住房和城乡建设部原部长、党组书记陈政高同志,因病于2024年6月16日在北京逝世,享年72岁。

  因此在不断强化税收征管的同时,应该同步适度推进税制改革,适度降低名义税率,让企业实际税负维持在一个合理水平,同时国家财政收入也并不会由此减少,进而实现良性循环。

【更多新闻,请关注“海报新闻”客户端】【山东手机报:及时获取本地新闻资讯】

  “实际上就是‘打样’。”李瀚明认为,国泰开航证明了乌鲁木齐机场具备保障顶级航司的能力,会产生示范效应。国泰飞得好,其他国际顶级航司,以及东亚、东南亚的航司都会考虑跟进。除了证明机场的保障能力,也是新疆以此为契机,对外释放开放活力的强烈信号。

  陈政高于1970年担任辽宁省海城县革委会政工组办事员;1978年任大连海运学院团委书记;1982年任辽宁省大连团市委常委、学校部部长;1985年任辽宁省大连市长海县副县长;1988年任辽宁省大连市西岗区委常委、副区长(主持工作);1993年任辽宁省大连市副市长;1997年任辽宁省省长助理;1998年任辽宁省副省长;2003年任辽宁省沈阳市委副书记、市长;2008年任辽宁省委副书记、省长。

相关新闻

推荐阅读

  • 中新网昆明10月22日电(时文枝)“我们坚持

        进一步改进工作作风,严格要求自己,求真务实,真抓实干,坚持以人民为中心的创作导向,强化“国家队”意识,努力以优秀作品向着艺术“高峰”不断攀登。

    terrex使用体验持续优化最新资源持续更新
  • (第四届进博会)进博会闭幕“红利”全年无休中

        去年,民航局、国家发改委联合发文《关于推进国际航空枢纽建设的指导意见》,画出国际航空枢纽的蓝图,提出“3+7+N”国际航空枢纽功能体系。

    深夜地铁口,年轻人刷着tbr汤不热
  • 吴宜泽6-2领先被韦克林逆转

        家住北京朝阳区的资深网球爱好者张先生在接受《环球时报》记者采访时感慨,“原来就不好预约的网球场,在郑钦文夺冠后,更不好约了。”他说:“我经常打球的球馆最早预约时间是提前一周的早上七点,但是现在到点就秒没,手一慢就显示预约完毕。”

    中国去到厕所4