英伟达官方发布了RubinGPU架构技术详解，这也是英伟达即将推出的VeraRubin平台的核心计算单元。根据官方公布的数据，在单位能耗下，RubinNVL72+VeraCPU的AgenticAI推理吞吐量，相比BlackwellNVL72+x86CPU提升最高可达10倍。VeraRubin平台相比Blackwell的10倍智能体推理性能提升完整的VeraRubinNVL72机架由36个VeraCPU和72个RubinGPU组成，有关VeraCPU我们已经介绍过，今天的重点是RubinGPU。整体来看，RubinGPU采用台积电3nmN3P制程工艺，由两颗计算芯粒组成，通过NVIDIA高速片间互联接口NV-HBI统一在单个封装上。整颗芯片集成3360亿个晶体管，拥有224个SM流处理器和896个TensorCore张量核心，搭载第三代Transformer引擎，可提供最高50PF的NVFP4推理性能。RubinGPU芯片架构框图显存方面，Rubin集成最高288GBHBM4，共配置8组12-Hi堆叠，峰值带宽达22TB/s，相比Blackwell和BlackwellUltra提升2.8倍。Rubin内存带宽相比Blackwell提升2.8倍此外，第六代NVLink提供3600GB/s扩展带宽用于GPU间全互联通信，NVLink-C2C提供1800GB/s用于CPU-GPU一致性通信，PCIeGen6x16提供256GB/s主机连接。针对当前主流MoE（混合专家）模型的扩展瓶颈，Rubin增强了TensorMemoryAccelerator（TMA），通过优化描述符管理机制，可更高效地定位和调度专家权重，减少数据搬运开销。多个内核还可为共享相同布局的张量保留统一描述符，在运行时直接通过TMA指令覆盖内存指针和步长等字段，减少元数据管理和数据搬运开销，让更多GPU时间用于实际推理计算。Rubin简化MoE描述符管理机制，右为Rubin架构Rubin另一项核心升级是TensorCore，每时钟周期的K维度吞吐量翻倍，意味着更少的循环迭代次数，Blackwell需要4次K迭代的GEMM运算，Rubin只需2次即可完成，减少了循环开销并提高了TensorCore利用率。左为Blackwell，右为Rubin长上下文注意力加速是Rubin的另一大升级，Rubin将激活稀疏化与自适应压缩结合，将中间数据加载为2:4稀疏格式，仅保存非零数据及对应元数据。后续softmax和第二注意力GEMM均可基于非零值运算，同时保持最终输出仍为标准Dense格式，在不改变模型接口的前提下减少计算量和数据搬运。此外，Rubin还提升了Softmax及指数运算性能，FP32吞吐达到GB300水平，是GB200的2倍；BF16/FP16吞吐相比GB200提升4倍，相比GB300提升2倍。Rubin自适应压缩稀疏化在内核间依赖调度方面，Rubin实现了比Blackwell更精细的协调，Blackwell启动允许Kernel更早开始工作，但仍需等待激活数据可用。而Rubin支持瓦片级触发，允许后续Kernel在所需输入数据准备完成后即可提前启动，不用等待更大范围的工作完成，从而压缩GPU时间线中的空闲间隙。上为Blackwell批量触发，下为Rubin瓦片级触发GPU间通信方面，Rubin引入了计数写入（CountedWrites）机制用于设备发起的NVLink通信。传统GPU间数据传输需要额外的协调和同步步骤，计数写入则允许接收端GPU更高效地跟踪传输完成状态，减少同步延迟，让计算不必等待同步操作。通过计数写入加速NVLink通信，左为Blackwell，右为Rubin在机架级能效管理上，VeraRubinNVL72将计算、网络、液冷、功率调节和智能功率平滑整合为单一执行域。系统通过集成储能模块，可吸收GPU瞬时功率波动，平均功耗降低约10%，50毫秒峰值功耗降低约20%。英伟达还推出DSXOS操作系统，其中集成DSXMaxLPS，可统一管理GPU、机柜、液冷系统以及AI工作负载，可在相同功率预算下多部署最多40%的GPU。

（作者：）

本文为文最后一个女玄术师男主原创作品，未经授权禁止转载！

本文所用图片，除特别注明外均来自网络搜索，如有侵权烦请联系作者删除，谢谢！