英伟达官方发布了RubinGPU架构技术详解,这也是英伟达即将推出的VeraRubin平台的核心计算单元。根据官方公布的数据,在单位能耗下,RubinNVL72+VeraCPU的AgenticAI推理吞吐量,相比BlackwellNVL72+x86CPU提升最高可达10倍。VeraRubin平台相比Blackwell的10倍智能体推理性能提升完整的VeraRubinNVL72机架由36个VeraCPU和72个RubinGPU组成,有关VeraCPU我们已经介绍过,今天的重点是RubinGPU。整体来看,RubinGPU采用台积电3nmN3P制程工艺,由两颗计算芯粒组成,通过NVIDIA高速片间互联接口NV-HBI统一在单个封装上。整颗芯片集成3360亿个晶体管,拥有224个SM流处理器和896个TensorCore张量核心,搭载第三代Transformer引擎,可提供最高50PF的NVFP4推理性能。RubinGPU芯片架构框图显存方面,Rubin集成最高288GBHBM4,共配置8组12-Hi堆叠,峰值带宽达22TB/s,相比Blackwell和BlackwellUltra提升2.8倍。Rubin内存带宽相比Blackwell提升2.8倍此外,第六代NVLink提供3600GB/s扩展带宽用于GPU间全互联通信,NVLink-C2C提供1800GB/s用于CPU-GPU一致性通信,PCIeGen6x16提供256GB/s主机连接。针对当前主流MoE(混合专家)模型的扩展瓶颈,Rubin增强了TensorMemoryAccelerator(TMA),通过优化描述符管理机制,可更高效地定位和调度专家权重,减少数据搬运开销。多个内核还可为共享相同布局的张量保留统一描述符,在运行时直接通过TMA指令覆盖内存指针和步长等字段,减少元数据管理和数据搬运开销,让更多GPU时间用于实际推理计算。Rubin简化MoE描述符管理机制,右为Rubin架构Rubin另一项核心升级是TensorCore,每时钟周期的K维度吞吐量翻倍,意味着更少的循环迭代次数,Blackwell需要4次K迭代的GEMM运算,Rubin只需2次即可完成,减少了循环开销并提高了TensorCore利用率。左为Blackwell,右为Rubin长上下文注意力加速是Rubin的另一大升级,Rubin将激活稀疏化与自适应压缩结合,将中间数据加载为2:4稀疏格式,仅保存非零数据及对应元数据。后续softmax和第二注意力GEMM均可基于非零值运算,同时保持最终输出仍为标准Dense格式,在不改变模型接口的前提下减少计算量和数据搬运。此外,Rubin还提升了Softmax及指数运算性能,FP32吞吐达到GB300水平,是GB200的2倍;BF16/FP16吞吐相比GB200提升4倍,相比GB300提升2倍。Rubin自适应压缩稀疏化在内核间依赖调度方面,Rubin实现了比Blackwell更精细的协调,Blackwell启动允许Kernel更早开始工作,但仍需等待激活数据可用。而Rubin支持瓦片级触发,允许后续Kernel在所需输入数据准备完成后即可提前启动,不用等待更大范围的工作完成,从而压缩GPU时间线中的空闲间隙。上为Blackwell批量触发,下为Rubin瓦片级触发GPU间通信方面,Rubin引入了计数写入(CountedWrites)机制用于设备发起的NVLink通信。传统GPU间数据传输需要额外的协调和同步步骤,计数写入则允许接收端GPU更高效地跟踪传输完成状态,减少同步延迟,让计算不必等待同步操作。通过计数写入加速NVLink通信,左为Blackwell,右为Rubin在机架级能效管理上,VeraRubinNVL72将计算、网络、液冷、功率调节和智能功率平滑整合为单一执行域。系统通过集成储能模块,可吸收GPU瞬时功率波动,平均功耗降低约10%,50毫秒峰值功耗降低约20%。英伟达还推出DSXOS操作系统,其中集成DSXMaxLPS,可统一管理GPU、机柜、液冷系统以及AI工作负载,可在相同功率预算下多部署最多40%的GPU。
中新网昆明10月22日电(时文枝)“我们坚持
“有些地区出现了多个国际航空枢纽的格局。比如华南的广州、深圳,西南的成都、重庆、昆明,西北的西安、乌鲁木齐。但与成渝不同的是,西北地域辽阔,西安与乌鲁木齐距离非常远,两个枢纽生态位截然不同。”
数据显示,免签对入境游的促进效果显著。春秋旅游副总经理周卫红此前表示,自中国对多国单方面免签以来,对入境游市场起到积极的推动作用,让来自更多客源地的境外游客能够以更便捷的方式来到中国。
据介绍,全省夏收工作6月7日基本结束,夏粮丰收已成定局。夏播工作从5月28日大面积展开,截至6月13日,已播种面积7915.2万亩,夏播工作大头落地。初步统计,目前全省因旱不能播种面积323万亩,若未来持续无有效降水,夏播进度将会进一步放慢。
清明假期将至不少小伙伴已经做好了出游计划高速
体量不及西安的兰州,也拿出大手笔。T3航站楼面积40万平方米,综合交通中心27万平方米,是甘肃民航发展史上规模最大的工程。
6月13日9时,国家防总针对广西、福建启动防汛四级应急响应,派出两个工作组分赴广西、福建协助指导;新增针对河北、内蒙古启动抗旱四级应急响应,并继续维持针对河南、山东的抗旱四级应急响应,两个工作组正在两省协助指导。
联新资本资源更新及时到位
2023年7月,中共中央总书记、国家主席、中央军委主席习近平在四川考察时指出,四川要发挥高校和科研机构众多、创新人才集聚的优势和产业体系较为完善、产业基础雄厚的优势,在科技创新和科技成果转化上同时发力。
- 中共中央政治局委员、外交部长王毅2日同阿曼外 “积极管理你的核心业务,这真是一剂难吃的药。我们有很多艰苦的工作要做。”墨菲表示,虽然底特律汽车制造商需要重新思考在中国的经营方式,但美国电动汽车领导者特斯拉的情况略有不同,与传统的底特律汽车制造商相比,特斯拉在电动汽车零部件方面拥有大约1.7万美元的成本优势,这有助于该公司在中国市场的发展,使其有“更大的发展空间”。(汪品植)
- 91在线资源内容质量不断提升资源更新及时到位 [环球时报综合报道]“一段时间以来,比亚迪、吉利等中国自主品牌的崛起给不少外国汽车品牌带来压力。”美国CNBC网站18日报道称,美银证券汽车产业分析师约翰·墨菲当天在美国汽车媒体协会有关活动中表示,美国底特律三巨头(即通用汽车、福特汽车和斯特兰蒂斯)应“尽快”退出中国市场。他同时警告说,美国三大车企需要采取更严厉的措施削减开支,尤其是在内燃机业务方面,因为这是目前利润的主要来源。
- 时值各大电商平台“618”促销之际,全国快递件再迎高峰 6月17日,澎湃新闻(www.thepaper.cn)从陈政高同志多位亲友处获悉,住房和城乡建设部原部长、党组书记陈政高同志,因病于2024年6月16日在北京逝世,享年72岁。
因此在不断强化税收征管的同时,应该同步适度推进税制改革,适度降低名义税率,让企业实际税负维持在一个合理水平,同时国家财政收入也并不会由此减少,进而实现良性循环。
