据浪潮数据统计,超过60%的智算中心故障源于

据浪潮数据统计,超过60%的智算中心故障源于GPU卡或GPU服务器问题,此类故障轻则导致设备离线,重则引发直接经济损失。在大模型推理服务持续7×24小时运行的当下,AI基础设施的稳定性已成为保障业务连续性的关键。然而现实挑战突出:云数据中心中GPU、TPU、XPU等异构加速卡共存,环境复杂且调用链路冗长,传统监控手段往往“指标可见却难触本质,报错频发却难以定位根因”。浪潮云海InCloudAIOS据此推出可灵活扩展的平台级GPU监控方案,以“异构兼容、深度联动、细粒度可视、智能预警”四大核心优势,有效破解监控难题,为AI业务构筑坚实稳定保障。一、异构全兼容:统一模型突破硬件监控壁垒传统监控工具对NVIDIAGPU的支持较为成熟,但在面对国产异构加速卡时,普遍存在覆盖不完整、指标分散及适配周期过长等问题,难以有效支撑多品牌GPU并行的业务环境。InCloudAIOS构建了灵活且可扩展的平台级监控框架,从根本上破解兼容性难题:*构建统一抽象模型:传统监控系统通常依赖“拼接”多种接口来兼容各类硬件,而InCloudAIOS通过对不同架构加速设备的核心参数——如利用率、显存占用、温度、功耗等进行标准化处理,有效消除硬件品牌间的差异。*自主研发的可扩展监控框架:采用插件化架构设计专属监控代理,遵循OpenTelemetry规范对指标进行封装,代理向上游提供metrics接口,结合推送与拉取机制,有效增强数据实时性与高并发处理能力。*快速兼容多品牌:除全面支持英伟达全系产品外,已迅速完成多款主流国产GPU的适配工作,实现无缝对接,无需重复开发即可便捷接入新型硬件。*准实时分析与告警:监控中心在采集数据后,利用内置元数据信息识别芯片架构,并将其存储至时序数据库;同时,告警模块依据预设策略实现准实时分析与告警,协助运维人员快速定位异常,并通过短信、邮件、企业微信等多种方式及时推送通知。平台级统一监控解决方案二、深度指标关联分析:精确识别性能瓶颈传统监控系统通常仅关注GPU占用率、利用率等基础指标,然而对于大模型推理服务而言,这些表层数据难以真实体现加速设备的运行状况。()事实上,大模型在多卡推理场景下(如张量并行)对卡间数据同步的依赖程度极高——无论是权重分片的分发,还是中间计算结果的交换,链路吞吐能力直接制约整体推理效率。当卡间互联带宽达到瓶颈时,数据传输延迟会显著上升;根据阿姆达尔定律,通信开销的增大将直接削弱系统整体性能,极端情况下甚至导致计算核心因等待数据而空转浪费。此时单纯调整应用层参数已无法缓解问题,必须通过优化卡间互联拓扑结构、重构并行策略等系统级手段才能有效突破瓶颈。InCloudAIOS通过深度对接NVIDIADCGM等厂商底层接口,突破传统监控在指标维度上的局限,涵盖pwr(GPU功率消耗)、rxpci(PCI接收速率)、txpci(PCI发送速率)等更为深入的运行参数。更关键的是,该系统创新性地将硬件运行状态与推理服务性能进行联动分析,不仅助力用户实现资源的全面监控与高效利用,还能精准识别传统工具难以发现的潜在性能瓶颈。(《InCloudAIOS技术白皮书》)三、细粒度映射:实现从物理设备到业务Pod的端到端可视化在云原生推理环境中,一张物理GPU通常借助MIG(Multi-InstanceGPU)或虚拟化技术拆分为多个计算实例,供不同Pod共享使用。然而,传统的监控方式仅能实现“卡级别”的观测,难以应对应用层面的精细化管理需求。例如,在多GPU节点集群中,系统可能并行运行Llama3-70b、Qwen-7b、DeepSeek-671b等不同规模的大模型,以及embedding、reranker等辅助模型,通过精细化调度实现Pod与特定GPU的绑定。在如此复杂的部署场景下,传统工具难以准确追踪单个Pod的资源使用情况,给多租户计费、故障排查及性能优化带来了严峻挑战。对服务(模型)级别的显卡性能进行监控InCloudAIOS突破性地攻克了细粒度监控难题,实现了从物理设备到业务Pod的全链路可视化:首先利用节点设备插件获取显卡拓扑数据,并对接平台CMDB数据库,构建Pod与底层加速卡实例(包括分割后的子实例)之间的映射关系。2.再通过自主研发的监控代理采集主机层面的进程级GPU使用情况,利用专用的GPUPODMapper与ProcessMapper框架,实现GPU、Pod及进程之间的精确对应。3.最终实现对推理任务的细粒度资源监控与分析,支持从业务线、模型类型、命名空间等多个维度进行聚合统计,全面消除多租户环境中的监控盲区。四、智能预警:提前预判,保障业务持续稳定运行在复杂的异构推理集群中,硬件异常始终难以避免——哪怕是一次ECC内存错误,或一次PCIe链路故障,都可能导致服务出现波动,甚至彻底中断,严重威胁业务的持续运行。InCloudAIOS打造主动预警机制,达成“故障早发现、根因快速定位”的目标:深度集成DCGM等厂商原生接口组件,实时采集并以可视化方式呈现GPU的使用率、显存占用、带宽、温度、功耗等核心参数,同时支持按业务需求自定义监控指标,确保硬件健康状态的精准与高效掌控。显卡温度与功耗实时监测支持配置“显卡不可纠正内存错误(uncorrectablememoryerrors)”等关键异常检测规则,实时监控多维度指标变化及设备日志,全面掌握硬件运行状况,有效支撑故障的快速定位与判断;GPU的运行日志告警内置多种成熟的时间序列预测算法,可依据历史数据提前发现显存突增、温度异常等潜在问题,使运维人员能在故障发生前主动介入,从根本上减少业务中断的风险。结语:全栈监控助力,使异构AI部署更加稳定,更省心InCloudAIOS的GPU全栈监控方案,有效破解了传统监控“兼容性差、粒度粗略、分析浅层、预警滞后”的难题。无论是多品牌异构GPU的统一管控,还是推理服务的性能调优与故障溯源,均可实现“指标尽在掌握、本质清晰可见、根因精准定位、风险主动防范”。该方案现已全面适配主流GPU,为政府、金融、医疗、教育等行业的大型模型推理需求提供可靠支持,助力私有云环境下的AI业务实现全天候无间断稳定运行。

触手辱美女资源更新及时到位功能细节持续完善

  靳东,1976年出生于山东省,毕业于中央戏剧学院,国家一级演员,曾获得“青年五四奖章”先进个人、“全国德艺双馨电视艺术工作者”等荣誉称号。他还是第十四届全国政协委员。

  世界经济论坛官网17日刊文称,中国已成为全球最大的电动汽车市场,中国车企生产的电动汽车占全球电动汽车总产量的一半以上。而在这一市场上,墨菲和其他分析师认为,美国车企当下很难抵挡中国自主品牌的实力。墨菲说,消费者现在对中国自主品牌的“忠诚度”很强,尤其是在美国对中国电动汽车征收超过100%的关税后,这种“忠诚度”可能会变得更加强烈。

雨后建材街:7477c色卡映着店门灯

  6月21日,中央纪委国家监委发布消息,自然资源部原党组成员,中国地质调查局原党组书记、局长钟自然被开除党籍,涉嫌受贿、故意泄露国家秘密犯罪问题移送检察机关依法审查起诉。

  李瀚明进一步分析,西安接近中国的几何中心,这样的地理位置飞国内任何地方都很便利。加上西安产业发达,又是旅游胜地,这些因素让西安国内客流常年处于高位,间接影响了打造国际枢纽的必要性。此外,也是因为接近国内几何中心,西安无论哪个方向的洲际航线,都得使用宽体机。二线枢纽用宽体机飞国际线,往往存在客流不足、上座率不高的情况。

人体模特白羽在旧厂房里等一束晨光

  2013年,早在“一带一路”倡议提出时,对新疆的定位是:丝绸之路经济带上重要的交通枢纽、商贸物流和文化科教中心,打造丝绸之路经济带核心区。对陕西、甘肃、宁夏、青海的定位则为:面向中亚、南亚、西亚国家的通道、商贸物流枢纽、重要产业和人文交流基地。

  截至6月13日,全省大、中型水库可用水总量40.48亿立方米,储量充足有保证,按照6月底前无有效降雨的最不利因素考虑,可放水7亿立方米用于抗旱灌溉;南水北调中线工程、大中型水库及河道供水正常,地下水源较充沛,能够满足抗旱需求。5月下旬以来,对全省98.72万眼农田建设灌溉机井和56.85万项灌排沟渠设备进行全面排查,及时修复损坏设施,确保抗旱灌溉需要。省财政近期专门安排3000万抗旱专项资金,支持各地开展抗旱工作。

女被艹最新资源持续更新使用体验持续优化

  据英国政府13日发表声明称:“今天的行动包括英国首次针对俄罗斯总统‘影子舰队’中的船只实施制裁,俄罗斯利用这些船只规避英国和七国集团(G7)的制裁,并继续不受限制地进行石油贸易。”这些新制裁还针对俄罗斯军方的弹药、机床、微电子和物流供应商,包括位于中国、以色列、吉尔吉斯斯坦和俄罗斯的实体。声明写道,英国首相苏纳克在意大利参加G7峰会时宣布了这些新的制裁措施,“这将削弱俄罗斯为其战争机器提供资金和装备的能力”。

特别声明:以上文章内容仅代表作者本人观点,不代表新浪网观点或立场。如有关于作品内容、版权或其它问题请于作品发表后的30日内与新浪网联系。
来自于:新浪网官方
网友评论
北京时间2月22日,法甲第23轮,巴黎圣日耳曼3-0梅斯
阅读本文大概需要8分钟慢慢来
分享到微博
发布
最热评论
最新评论
暂无评论

举报邮箱:[email protected]

Copyright © 1996-2026 SINA Corporation

All Rights Reserved 新浪公司 版权所有