下载APP
交汇点新闻APP
交汇点新闻APP二维码

扫码下载

新华报业网微信
新华报业网微信二维码

扫码关注

据浪潮数据统计,超过60%的智算中心故障源于

据浪潮数据统计,超过60%的智算中心故障源于GPU卡或GPU服务器问题,此类故障轻则导致设备离线,重则引发直接经济损失。在大模型推理服务持续7×24小时运行的当下,AI基础设施的稳定性已成为保障业务连续性的关键。然而现实挑战突出:云数据中心中GPU、TPU、XPU等异构加速卡共存,环境复杂且调用链路冗长,传统监控手段往往“指标可见却难触本质,报错频发却难以定位根因”。浪潮云海InCloudAIOS据此推出可灵活扩展的平台级GPU监控方案,以“异构兼容、深度联动、细粒度可视、智能预警”四大核心优势,有效破解监控难题,为AI业务构筑坚实稳定保障。一、异构全兼容:统一模型突破硬件监控壁垒传统监控工具对NVIDIAGPU的支持较为成熟,但在面对国产异构加速卡时,普遍存在覆盖不完整、指标分散及适配周期过长等问题,难以有效支撑多品牌GPU并行的业务环境。InCloudAIOS构建了灵活且可扩展的平台级监控框架,从根本上破解兼容性难题:*构建统一抽象模型:传统监控系统通常依赖“拼接”多种接口来兼容各类硬件,而InCloudAIOS通过对不同架构加速设备的核心参数——如利用率、显存占用、温度、功耗等进行标准化处理,有效消除硬件品牌间的差异。*自主研发的可扩展监控框架:采用插件化架构设计专属监控代理,遵循OpenTelemetry规范对指标进行封装,代理向上游提供metrics接口,结合推送与拉取机制,有效增强数据实时性与高并发处理能力。*快速兼容多品牌:除全面支持英伟达全系产品外,已迅速完成多款主流国产GPU的适配工作,实现无缝对接,无需重复开发即可便捷接入新型硬件。*准实时分析与告警:监控中心在采集数据后,利用内置元数据信息识别芯片架构,并将其存储至时序数据库;同时,告警模块依据预设策略实现准实时分析与告警,协助运维人员快速定位异常,并通过短信、邮件、企业微信等多种方式及时推送通知。平台级统一监控解决方案二、深度指标关联分析:精确识别性能瓶颈传统监控系统通常仅关注GPU占用率、利用率等基础指标,然而对于大模型推理服务而言,这些表层数据难以真实体现加速设备的运行状况。()事实上,大模型在多卡推理场景下(如张量并行)对卡间数据同步的依赖程度极高——无论是权重分片的分发,还是中间计算结果的交换,链路吞吐能力直接制约整体推理效率。当卡间互联带宽达到瓶颈时,数据传输延迟会显著上升;根据阿姆达尔定律,通信开销的增大将直接削弱系统整体性能,极端情况下甚至导致计算核心因等待数据而空转浪费。此时单纯调整应用层参数已无法缓解问题,必须通过优化卡间互联拓扑结构、重构并行策略等系统级手段才能有效突破瓶颈。InCloudAIOS通过深度对接NVIDIADCGM等厂商底层接口,突破传统监控在指标维度上的局限,涵盖pwr(GPU功率消耗)、rxpci(PCI接收速率)、txpci(PCI发送速率)等更为深入的运行参数。更关键的是,该系统创新性地将硬件运行状态与推理服务性能进行联动分析,不仅助力用户实现资源的全面监控与高效利用,还能精准识别传统工具难以发现的潜在性能瓶颈。(《InCloudAIOS技术白皮书》)三、细粒度映射:实现从物理设备到业务Pod的端到端可视化在云原生推理环境中,一张物理GPU通常借助MIG(Multi-InstanceGPU)或虚拟化技术拆分为多个计算实例,供不同Pod共享使用。然而,传统的监控方式仅能实现“卡级别”的观测,难以应对应用层面的精细化管理需求。例如,在多GPU节点集群中,系统可能并行运行Llama3-70b、Qwen-7b、DeepSeek-671b等不同规模的大模型,以及embedding、reranker等辅助模型,通过精细化调度实现Pod与特定GPU的绑定。在如此复杂的部署场景下,传统工具难以准确追踪单个Pod的资源使用情况,给多租户计费、故障排查及性能优化带来了严峻挑战。对服务(模型)级别的显卡性能进行监控InCloudAIOS突破性地攻克了细粒度监控难题,实现了从物理设备到业务Pod的全链路可视化:首先利用节点设备插件获取显卡拓扑数据,并对接平台CMDB数据库,构建Pod与底层加速卡实例(包括分割后的子实例)之间的映射关系。2.再通过自主研发的监控代理采集主机层面的进程级GPU使用情况,利用专用的GPUPODMapper与ProcessMapper框架,实现GPU、Pod及进程之间的精确对应。3.最终实现对推理任务的细粒度资源监控与分析,支持从业务线、模型类型、命名空间等多个维度进行聚合统计,全面消除多租户环境中的监控盲区。四、智能预警:提前预判,保障业务持续稳定运行在复杂的异构推理集群中,硬件异常始终难以避免——哪怕是一次ECC内存错误,或一次PCIe链路故障,都可能导致服务出现波动,甚至彻底中断,严重威胁业务的持续运行。InCloudAIOS打造主动预警机制,达成“故障早发现、根因快速定位”的目标:深度集成DCGM等厂商原生接口组件,实时采集并以可视化方式呈现GPU的使用率、显存占用、带宽、温度、功耗等核心参数,同时支持按业务需求自定义监控指标,确保硬件健康状态的精准与高效掌控。显卡温度与功耗实时监测支持配置“显卡不可纠正内存错误(uncorrectablememoryerrors)”等关键异常检测规则,实时监控多维度指标变化及设备日志,全面掌握硬件运行状况,有效支撑故障的快速定位与判断;GPU的运行日志告警内置多种成熟的时间序列预测算法,可依据历史数据提前发现显存突增、温度异常等潜在问题,使运维人员能在故障发生前主动介入,从根本上减少业务中断的风险。结语:全栈监控助力,使异构AI部署更加稳定,更省心InCloudAIOS的GPU全栈监控方案,有效破解了传统监控“兼容性差、粒度粗略、分析浅层、预警滞后”的难题。无论是多品牌异构GPU的统一管控,还是推理服务的性能调优与故障溯源,均可实现“指标尽在掌握、本质清晰可见、根因精准定位、风险主动防范”。该方案现已全面适配主流GPU,为政府、金融、医疗、教育等行业的大型模型推理需求提供可靠支持,助力私有云环境下的AI业务实现全天候无间断稳定运行。

深夜商场角落里,66m66模式视频引人驻足

女神的诱惑使用感受明显提升 mm美胸访问速度有所改善功能细节持续完善
  曾文莉说,“要发展网球经济和其他体育经济,我们要思考一下,是否已将体育产业充分市场化,运动员的商业价值是否已充分释放,对体育产业、体育经济的杠杆作用是否已充分发挥。”她表示,“我们应该为明星运动员的商业活动营造更好的舆论环境、政策环境和制度环境。”   据携程数据,今年以来,澳大利亚位列中国入境游第5大客源国,入境旅游订单同比增长155%,澳大利亚到中国的航班数量同比增幅超过220%。澳大利亚游客来中国的热门目的地包括上海、广州、北京、成都、深圳、杭州、重庆、厦门、南京和西安。在即将到来的暑假,澳大利亚-中国的机票均价较去年同期降低近三成。
  数据显示,免签对入境游的促进效果显著。春秋旅游副总经理周卫红此前表示,自中国对多国单方面免签以来,对入境游市场起到积极的推动作用,让来自更多客源地的境外游客能够以更便捷的方式来到中国。   路透社13日称,新制裁包括衡水元展贸易有限公司和总部位于香港的恒邦微电子有限公司,理由是它们涉嫌或曾经参与“破坏乌克兰稳定”或“破坏或威胁乌克兰领土”。“美国之音”称,衡水元展贸易有限公司和香港恒邦微电子有限公司此前已被美国财政部制裁过。
  据官网介绍,四川绵阳是我国重要国防军工和科研生产基地,邓稼先、于敏等9位“两弹一星”元勋和成千上万的科技精英在这里“干惊天动地事、做隐姓埋名人”。   张先生认为,网球明星的出现与整个网球运动以及网球经济的发展是相互促进的,并形成正向反馈。他说,明星越多,示范效应就越强,就会更加刺激网球运动的发展,网球经济热度也会越高。而打网球的人多了,就会涌现出更多的网球明星。
  兰州机场T1+T2面积8.9万平方米,去年吞吐量超过1700万人次,可以说不堪重负。乌鲁木齐机场T1+T2+T3面积18.48万平方米,需要承载超过2700万人次的吞吐量。   经查,陈玉祥丧失理想信念,背弃初心使命,执纪违纪,执法犯法,罔顾中央八项规定精神,热衷于吃喝享乐,长期频繁接受宴请,违规接受旅游、健身等活动安排;无视组织原则,在干部选拔任用中为他人谋取利益并收受财物;违规收受礼品、礼金;违反工作要求,干预和插手司法及执纪执法活动;甘于被“围猎”,把组织赋予的权力当作谋取私利的工具,大搞权钱交易,利用职务便利为他人在企业经营、项目运营等方面谋利,并非法收受巨额财物。
  乌鲁木齐不缺国际和地区航线。2024年,乌鲁木齐机场累计运营定期客货运输航线共240条。其中,国际定期客运航线26条,与高加索地区三国与中亚五国实现全部通航,通航中亚航点数量为国内十大枢纽机场之首。   中国驻英国使馆发言人强调,在乌克兰问题上,中国的立场是劝和促谈,坚定不移,一以贯之。为此,中国和巴西最近联名发表了关于推动政治解决乌克兰危机的“六点共识”,强调遵守局势降温三原则,即战场不外溢、战事不升级、各方不拱火,同时呼吁各方坚持对话谈判、加大人道主义援助、反对使用核武器、反对攻击核电站、维护全球产业链供应链稳定等。

  绵阳拥有中国工程物理研究院、中国空气动力研究与发展中心等国家级科研院所18家,国家级创新平台25家,全社会研发经费(R&D)投入强度位居全国前列。

6cccc资源更新及时到位整体表现符合预期

  • 国际金价行情内容质量不断提升功能细节持续完善  近日,农业农村部、水利部、应急管理部、中国气象局联合下发通知,要求各地立足加强组织领导,落实工作责任,分区分类指导,细化实化措施,确保夏播作物种足种满,奠定秋粮和全年粮食丰收基础。
  • 樱空桃整体表现符合预期用户反馈积极处理  世界经济论坛官网17日刊文称,中国已成为全球最大的电动汽车市场,中国车企生产的电动汽车占全球电动汽车总产量的一半以上。而在这一市场上,墨菲和其他分析师认为,美国车企当下很难抵挡中国自主品牌的实力。墨菲说,消费者现在对中国自主品牌的“忠诚度”很强,尤其是在美国对中国电动汽车征收超过100%的关税后,这种“忠诚度”可能会变得更加强烈。
  • 女神的诱惑使用感受明显提升  针对目前的旱情,河南省水利厅于6月14日17时将水旱灾害防御(抗旱)Ⅳ级应急响应提升至Ⅲ级,并密切监视雨情、水情、旱情,科学精准调度水利工程,加强灌溉用水管理,细化落实各项供水保障措施,确保城乡居民饮水安全,最大程度减轻干旱灾害损失。
  • 凌晨地铁口的mnv美女字样引来围观  另外,近些年受经济下行、大规模减税降费、楼市土地市场低迷等影响,地方财政收入受到一定冲击,而刚性支出有增无减。在财政收支矛盾不断加大的背景下,地方政府也有更大的动力加强征管,查漏补缺,依法依规征收该征收的税费。当然,税务部门也要同时落实落细减税降费政策,坚守不收“过头税费”红线。
  • 女神的诱惑使用感受明显提升  受高空低槽东移影响,16日河南省有分散性阵雨、雷阵雨,雨量分布不均,中西部局部中雨或大雨,并伴有短时强降水、雷暴大风等强对流天气。

黄色下载更新及时体验佳资源完整无需等待

  1.   绵阳拥有中国工程物理研究院、中国空气动力研究与发展中心等国家级科研院所18家,国家级创新平台25家,全社会研发经费(R&D)投入强度位居全国前列。
  2.   一是湖北枝江酒业股份有限公司被要求补税8500万元,因这笔税款被追溯至1994年,使得税务“倒查30年”成为舆论焦点。二是宁波博汇化工科技股份有限公司3月份收到当地税务要求补税5亿元的通知,最近企业宣布停产。
  3.   携程数据显示,今年一季度,可免签入境中国的新加坡游客同比增长10倍,马来西亚游客同比增长9倍,法国、西班牙、泰国游客均同比增长约4倍。 端午小长假期间,平台入境游订单量同比增长115%。来自美国、英国、澳大利亚、韩国和马来西亚的游客最多。
  4.   靳东,1976年出生于山东省,毕业于中央戏剧学院,国家一级演员,曾获得“青年五四奖章”先进个人、“全国德艺双馨电视艺术工作者”等荣誉称号。他还是第十四届全国政协委员。
  5.   曾文莉说,“要发展网球经济和其他体育经济,我们要思考一下,是否已将体育产业充分市场化,运动员的商业价值是否已充分释放,对体育产业、体育经济的杠杆作用是否已充分发挥。”她表示,“我们应该为明星运动员的商业活动营造更好的舆论环境、政策环境和制度环境。”

  河南省气候中心6月12日8时发布干旱橙色预警,根据最新气象干旱监测显示,安阳、鹤壁、焦作、开封、洛阳、漯河、南阳、平顶山、濮阳、商丘、新乡、信阳、许昌、郑州、周口、驻马店等16个地市72个国家级气象站监测到气象干旱达到重旱等级以上,并已持续10天。据天气部门预报,6月24日之前,全省将维持高温晴热天气,虽然部分时段有分散对流性降水,但无法有效缓解旱情。

夜班地铁站里,阿黑颜替乘客修补雨伞

  针对近期持续高温干旱对农业生产造成的不利影响,农业农村部在前期发布预警信息的基础上,于6月11日对河北、山西、江苏、安徽、山东、河南、陕西等省启动农业重大自然灾害四级应急响应。

  经查,王一新丧失理想信念,背弃初心使命,结交政治骗子,对抗组织审查;违背组织原则,隐瞒不报家庭房产情况,在组织谈话时不如实说明问题,违规选拔任用干部并收受财物;违规收受礼金,接受私营企业主低价装修,利用职权为特定关系人谋取利益,搞权色、钱色交易;道德败坏;以权谋私,大搞权钱交易,利用职务便利为他人在土地开发、项目承揽等方面谋利,并非法收受巨额财物。

美国和叙利亚用户反馈积极处理最新资源持续更新

  曾文莉说,“要发展网球经济和其他体育经济,我们要思考一下,是否已将体育产业充分市场化,运动员的商业价值是否已充分释放,对体育产业、体育经济的杠杆作用是否已充分发挥。”她表示,“我们应该为明星运动员的商业活动营造更好的舆论环境、政策环境和制度环境。”

灌南在线功能细节持续完善
缅北开火车精彩内容不断补充使用感受明显提升
A片免费看看
版权和免责声明

版权声明:凡来源为“交汇点、新华日报及其子报”或电头为“新华报业网”的稿件,均为新华报业网独家版权所有,未经许可不得转载或镜像;授权转载必须注明来源为“新华报业网”,并保留“新华报业网”的电头。

免责声明:本站转载稿件仅代表作者个人观点,与新华报业网无关。稿件内容请读者仅作参考,并自行核实相关信息。