神州鲲泰推出全新智算架构及硅光+液冷整机柜,破解多云异构绿色智算难题

在数字经济时代,算力资源已经成为新的“能源”,为人工智能、云计算等等科技界前沿领域持续供能。5月9日,数云原力大会2024在神州数码国际创新中心(IIC)盛大召开。在开幕式上,神州数码副总裁、神州数码信创控股董事长韩智敏重磅发布新一代神州鲲泰绿色异构智算中心全液冷整机柜新品,在异构智算的时代,通过软硬件协同创新,为客户提供性能强、能效高、节能环保的新选择。

66441fc9e93f6

神州数码副总裁、神州数码信创控股董事长韩智敏

异构智算时代,企业智算落地如何兼顾效率与成本?

我们迎来了一个全新的异构智算时代。在当前的算力环境下,多云异构智算基础设施已成为必然。异构算力资源如何得到充分利用?在混合云部署下,如何应对算力构建选型、部署、运维复杂度和难度的挑战?这个独特的“智算攒机时代”,正在呼唤全新的智算架构。

与此同时,随着大模型和生成式AI加速落地,大量的模型训练和推理任务,在唤醒底层算力海量需求的同时,也对资源利用率提出了巨大挑战。有关资料显示,OpenAI训练GPT-4的MFU(Model Flops Utility)在32%到36%之间。而目前行业MFU利用率的平均水平仅为30%~40%,智算资源利用率尚有很大的提升空间,利用率提升也将为企业节省大量成本。

能耗是另一个大的挑战,算力本身会成为主要的能耗和二氧化碳排放来源。明显可预见的就是,GPU的能耗本身是CPU能耗的2倍以上。根据MIT研究表明,未来人类需要为人工智能相关应用新增10%的能源需求。也就是说,“炼”大模型会比炼钢还费电。对于一个企业来说,每新增一个用于智算的机架,其运行一年约等于增加15w度电,约等于100个家庭的年用电量,约等于1.5吨二氧化碳排放,能耗和碳排放十分巨大。

尽精微,神州鲲泰异“双管齐下”提升算力资源利用率

神州鲲泰推出HISO异构智算调度运营平台、HICA异构智算加速平台,有效解决智算集群间以及集群内面临的复杂异构兼容问题,并显著提升算力资源的利用率。

HISO异构智算调度运营平台,基于云原生技术,整合GPU硬分片和虚拟分片技术,能实现GPU资源虚拟化或池化,完成跨集群之间的算力调度。根据用户业务需求,该平台可以在整个异构智算资源池中匹配优选算力组合,提升GPU服务器集群的资源使用率。HISO异构智算调度运营平台拥有将国内外GPU资源混合组网、混搭调度,算力精细隔离等关键能力,可以“像管理一台GPU主机一样,管理和调度多个集群的GPU资源”。通过GPU容器直通、IaaS卸载,该平台加速了模型加载时间,相比传统方式,模型加载速度提升3倍。同时还能实时收集智算中心全栈、全链路指标,发现和定位软硬件故障,实现算力可观测性。

HICA异构智算加速平台则着重解决集群内部的算力调度优化问题,通过屏蔽集群内底层算力生态差异,突破关键计算效率瓶颈,有效提升算力利用率与可用性。HICA异构智算加速平台通过自研的服务层、中间适配层以及调度编排算法,采用数据并行、模型并行等方式,把并行计算任务进行有效分解,匹配相应的软件栈和算力资源来承接。当GPU资源变化,该平台可以实时动态调度计算子任务并调整模型拓扑和架构,以充分聚合各种算力资源。

HICA异构智算加速平台具有一云多芯特性,支持国内外主流AI芯片,可实现训练推理任务在不同品牌、不同型号芯片组成的智算集群中的混合训练推理,预计可降低20%闲置算力。

此外,根据不同模型、不同算子之间集合通信流特点,该平台还可自适应选择最合适的通信参数,达到更高的通信效率。同时,在不同模型运行过程中,充分考虑存算比要求的不同,HICA异构智算加速平台还可从宏观到微观多个尺度选择最合适的存算比资源加载模型,加速吞吐,降低时延,使MFU提升10~20%,MBU提升5%。

硅光+液冷,一体化交付冷却跳动的电表

随着生成式AI落地对算力需求的暴涨、带宽的狂飙提速,智算中心节点的高能耗痛点日益加剧。而以一个万卡智算中心为例,采用200G接口互联,需要约80000个光模块,其互联所需的能耗则占到总体的5%。节点间互联的高能耗问题也日益凸显。

针对节点间互联的能耗问题,神州鲲泰采用硅光技术,通过单光源多调制器,降低调制器电压,同时采用分布式反馈激光器等一系列技术,有效降低25%的互联能耗。

同时,针对节点的能耗问题,神州鲲泰推出液冷服务器,通过一体化冷板,智能流量调节来提升系统的散热效率,采用负压管线系统,漏液近端探测技术,并联动服务管控系统提升冷却系统的可靠性,有效降低30%的节点能耗。

而为了帮助客户规避接口多、接头复杂、现场实施部署难度大、实施周期长等难题,数云原力大会2024开幕式上,神州鲲泰正式发布“KunTai Pod2000全液冷整机柜”方案产品。采用一体化交付方式,有效降低部署和运维的复杂度的同时,整机柜还能实现100%全液冷及高性价比液冷方案,助力数据中心PUE迈向1.15,并且凭借60KW+的最大单柜功率,实现1.5倍于行业平均水平的能效比,在为客户提供强打算力的同时有效控制能耗成本。

66441fca2de34

随着2022年底ChatGPT的问世,AI正成为推动创新的核心引擎。现在的IT基础架构已经到了一个由模型和算力相互促进,螺旋上升的新发展阶段。面对新的发展机遇,神州鲲泰从智算中心系统整体性能提升出发,提出了走新智算架构之路的策略,建立了高通量、高并行、高效率,低能耗的多样化智算架构。新的智算架构能够快部署、低投入地突破算力瓶颈,构建出性能更优、成本更低、能效更高的智算中心。未来每个智算中心,每台计算机都将是这样一种新的智算架构,从而实现算力的普惠。

本网信息来自于互联网与网友投稿,目的在于传递更多信息,并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,并请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。https://bj.motor-fun.com/9787.html

赞 (1)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2024年5月14日 下午10:38
下一篇 2024年5月15日 上午11:44

相关推荐

  • 慕研:打破信息鸿沟专业铸就辉煌 让企业服务更高效

    在企业服务行业中,长期以来存在着服务标准不统一、业态分散、各自为阵的困境。巨大的信息鸿沟使得企业在面对知识产权、政府项目、财税咨询等复杂业务时,往往力不从心,难以高效解决问题。无疑,企业服务行业的复杂性和多样性,给企业带来了无尽的挑战。 面对日益激烈的市场竞争,企业迫切需要专业、高效的服务来帮助他们解决各类问题,获得资质和补贴,实现更高的发展目标。正是在这样…

    2024年7月26日
    0
  • 通州区图书馆元宵节邀请市民“共庆元宵 齐猜灯谜”

    元宵节是中国春节年俗中充满欢乐和祥和的节日,其中赏花灯、猜灯谜是最具代表性的活动之一。值此佳节通州区图书馆特别推出“共庆元宵齐猜灯谜”活动,通过线下闯关猜灯谜的形式,为市民呈现上千个趣味十足的灯谜,为大家增添一份节日的欢愉! 活动当天图书馆在一层大厅、三层少儿阅读区和八层展厅等多个区域进行了精心布置,还特别设置了猜谜流动线路、龙年造型灯谜区,灯谜内容更是涵盖…

    2024年2月25日
    0
  • 平安银行电话服务:深化战略转型,金融便捷触手可及

    日前,北京举办了“第十九届21世纪金融年会”。会上正式揭晓了“2024年21世纪金融竞争力研究案例”,平安银行凭借服务表现和不断深化的战略转型,荣获“年度卓越金融机构服务银行”奖项。一直以来,平安银行不断提升投资、交易和销售能力,培育金融服务新动能,增强市场竞争力。培育金融服务新动能离不开平安银行强大的服务体系,其中,平安银行电话服务20年风雨兼程,深化战略…

    2024年12月23日
    0
  • 加多宝奏响开门红冲锋号角,“千箱堆”“万箱堆”彰显春节强劲势头

    2025乙巳年春节来临之际,加多宝全军出击打响“春节营销战”,激活全国渠道势能,以独具创意的陈列,点燃全国渠道的销售势头。“千箱堆”“万箱堆”一片火红之中,金灿灿的“开箱见宝、招财进宝”的祝福熠熠生辉,将春节气氛推到高潮。 创意堆头全国遍地开花,气势恢宏送祝福 今年,加多宝携手国潮书法家朱敬一,打造“开箱见宝”新春礼箱,以“宝文化”为底蕴,将东方美学与新年祝…

    2025年2月17日
    0
  • 非笼养,重新定义传统散养

    近日X乡鸡被打假,“X乡鸡是不是散养鸡”的新闻让公众对于家禽养殖方式产生了更深的兴趣与讨论。在此次事件中,大众才发现原来目前对于在散养鸡的概念,并没有相关的国家标准。国内检测认证目前提供的相关认证包括只有:非笼养产品认证、无抗畜禽产品认证。 “非笼养”这一新兴名词,在麦当劳大力推行“无笼好鸡”之后,再次出现在了公众视野中。为何现在国际餐饮品牌开始大力推行“非…

    2024年8月29日
    0
  • 西山温泉荣获第六届金汤奖“最佳创新城市温泉奖”

    2023年11月16-17日,由由中国旅游协会温泉旅游分会、盐城市斗龙港旅游度假区管委会主办;盐城市斗龙港生态旅游度假区集团有限公司、博鳌国际金汤奖组委会承办的第十届中国温泉旅游推广季暨第六届金汤奖颁奖典礼在江苏盐城大丰区盐城天沐温泉度假酒店、荷兰花海“只有爱”剧场隆重举行。北京的西山温泉荣获第六届金汤奖“最佳创新城市温泉奖”! (第六届金汤奖颁奖典礼现场)…

    2023年11月20日
    0
  • 美国开心果种植者协会携手京广两地球迷,共赴世界杯激情狂欢夜

    2026年盛夏,美加墨世界杯激战正酣。美国开心果种植者协会(American Pistachio Growers)分别于北京、广州两地举办世界杯线下观赛活动,将足球热情与健康零食理念深度融合,为球迷带来沉浸式的狂欢体验。 北京站|“为进球,开心一嗑!” 7月11日凌晨,由美国开心果种植者协会联合国内权威足球媒体《足球周刊》共同举办的“为进球,开心一嗑”线下观…

    2026年7月23日
    0
  • 燕之屋(北京)高尔夫俱乐部秋季会员赛|挥杆金秋,共鉴精彩

    秋风和煦,天朗气清。10月15日,2026燕之屋(北京)高尔夫俱乐部秋季会员赛于翡翠湖球场精彩启幕。一众球友齐聚绿茵赛场,以高尔夫为纽带,尽赏秋日风光,在果岭之上定格友情时光。 图:燕之屋(北京)高尔夫俱乐部秋季会员赛 燕之屋致力于提供高品质燕窝产品的同时,通过高尔夫这项运动,搭建一个健康、高雅、温暖的社交平台,让会员们在运动中收获健康生活,在交流中深化情谊…

    2026年10月29日
    0
  • 书法世界平台入驻招募,携手共筑高雅艺术传播新篇章

    近年来,随着国人对传统文化和艺术的关注不断提升,书法、国画、篆刻等传统艺术形式逐渐走进了人们的日常生活。为了推动这些优秀传统艺术的传承与创新,北京书香传世艺术有限公司推出了“书法世界”平台,旨在为书法、国画、篆刻、油画以及各类艺术创作者和运营者提供一个全面展示和发展的舞台。现平台面向各界艺术家及创作者开放入驻招募,诚邀各领域的艺术家和运营者共同加入,携手共建…

    2024年12月9日
    0
  • 江苏宿迁八维职业教育:乘数字东风,育时代英才

    在复杂多变的经济格局中,中国经济以“稳中有进”的姿态交出了一份亮眼答卷。前三季度GDP同比增长5.2%,高技术制造业、装备制造业增速领跑,工业机器人、服务机器人产量激增,人工智能大模型应用爆发式增长…… 这些数据背后,是数字经济与高端制造深度融合的产业变革,更是对数字人才的迫切呼唤。在这场人才与产业的双向奔赴中,宿迁八维以敏锐的市场洞察力和前瞻性的教育布局,…

    2025年11月7日
    0