鲲泰新闻|神州鲲泰创新智算之旅北京站开幕,发布全新智算架构和液冷整机柜产品应对 “多云、异构、绿色”挑战

5月17日,神州鲲泰智算中国行北京站盛大召开。在本次活动上,神州鲲泰针对用户对大模型训练、大算力需求的痛点,重磅发布多云异构环境下智算中心绿色着陆的产品及方案,包含异构智算调度运营平台HISO、异构智算加速平台HICA以及一体化交付的神州鲲泰全液冷整机柜产品。帮助企业客户在整个异构智算资源池中匹配更优算力组合、有效提升GPU服务器集群的资源使用效率、有效解决节点和节点间互联的能耗问题,助力企业构建性能更优、成本更低、能效更高、能耗更低的智算基础设施底座。

664ce5828132f

664ce5820cf40

神州数码信创业务集团副总裁、研发中心总经理周川

异构智算时代,企业智算落地如何降本增效?

在全新的异构智算时代,多云异构智算基础设施已成为必然,一个独特的“智算攒机时代”,正在呼唤全新的智算架构。与此同时,随着大模型和生成式AI加速落地,大量的模型训练和推理任务,在唤醒底层算力海量需求的同时,也对资源利用率提出了巨大挑战。有关资料显示,OpenAI训练GPT-4的MFU(Model Flops Utility)在32%到36%之间。而目前行业MFU利用率的平均水平仅为30%~40%,智算资源利用率的提升将为企业节省大量成本。

能耗是另一个大的挑战,算力本身会成为主要的能耗和二氧化碳排放来源,更不用说GPU的能耗本身是CPU能耗的2倍以上。根据MIT研究表明,未来人类需要为人工智能相关应用新增10%的能源需求,形象的说,“炼”大模型会比炼钢还费电。对于一个企业来说,每新增一个用于智算的机架,其运行一年约等于增加15w度电,够100个家庭生活用电一年,约排放1.5吨二氧化碳,能耗和碳排放都十分巨大。

尽精微,神州鲲泰“双管齐下”提升算力资源利用率

神州鲲泰推出异构智算调度运营平台HISO、异构智算加速平台HICA,有效解决智算集群间以及集群内面临的复杂异构兼容问题,显著提升算力资源的利用率。

神州鲲泰异构智算调度运营平台HISO基于云原生技术,整合GPU硬分片和虚拟分片技术,能实现GPU资源虚拟化或池化,完成跨集群之间的算力调度。根据用户业务需求,该平台可以在整个异构智算资源池中匹配优选算力组合,提升GPU服务器集群的资源使用率。神州鲲泰异构智算调度运营平台HISO拥有将国内外GPU资源混合组网、混搭调度,算力精细隔离等关键能力,可以“像管理一台GPU主机一样,管理和调度多个集群的GPU资源”。通过GPU容器直通、IaaS卸载,该平台加速了模型加载时间,相比传统方式,模型加载速度提升3倍。同时还能实时收集智算中心全栈、全链路指标,发现和定位软硬件故障,实现算力可观测性。

神州鲲泰异构智算加速平台HICA则着重解决集群内部的算力调度优化问题,通过屏蔽集群内底层算力生态差异,突破关键计算效率瓶颈,有效提升算力利用率与可用性。神州鲲泰异构智算加速平台HICA通过自研的服务层、中间适配层以及调度编排算法,采用数据并行、模型并行等方式,把并行计算任务进行有效分解,匹配相应的软件栈和算力资源来承接。当GPU资源变化,该平台可以实时动态调度计算子任务并调整模型拓扑和架构,以充分聚合各种算力资源。

神州鲲泰异构智算加速平台HICA具有一云多芯特性,支持国内外主流AI芯片,可实现训练推理任务在不同品牌、不同型号芯片组成的智算集群中的混合训练推理,预计可降低20%闲置算力。

此外,根据不同模型、不同算子之间集合通信流特点,该平台还可自适应选择最合适的通信参数,达到更高的通信效率。同时,在不同模型运行过程中,充分考虑存算比要求的不同,异构智算加速平台HICA还可从宏观到微观多个尺度选择最合适的存算比资源加载模型,加速吞吐,降低时延,使MFU提升10~20%,MBU提升5%。

硅光+液冷冷却跳动的电表,一体化交付让客户省时省力

随着生成式AI落地对算力需求的暴涨、带宽的狂飙提速,智算中心节点的高能耗痛点日益加剧。而以一个万卡智算中心为例,采用200G接口互联,需要约80000个光模块,其互联所需的能耗则占到总体的5%。节点间互联的高能耗问题也日益凸显。

针对节点间互联的能耗问题,神州鲲泰采用硅光技术,通过单光源多调制器,降低调制器电压,同时采用分布式反馈激光器等一系列技术,有效降低25%的互联能耗。

同时,针对节点的能耗问题,神州鲲泰推出液冷服务器,通过一体化冷板,智能流量调节来提升系统的散热效率,采用负压管线系统,漏液近端探测技术,并联动服务管控系统提升冷却系统的可靠性,有效降低30%的节点能耗。

而为了帮助客户规避接口多、接头复杂、现场实施部署难度大、实施周期长等难题,数云原力大会2024开幕式上,神州鲲泰正式发布“KunTai Pod2000全液冷整机柜”方案产品。采用一体化交付方式,有效降低部署和运维的复杂度的同时,整机柜还能实现100%全液冷及高性价比液冷方案,助力数据中心PUE迈向1.15,并且凭借60KW+的最大单柜功率,实现1.5倍于行业平均水平的能效比,在为客户提供强大算力的同时有效控制能耗成本。

神州鲲泰整机柜产品搭载鲲鹏+昇腾主板,一体化交付的方式已经在运营商客户得到落地验证,广受好评,硅光+液冷更是让整机柜产品得到全面升级,为客户打造出功能更强、能耗更低、效率更高的智算中心。

664ce5814830c

随着2022年底ChatGPT的问世,AI正成为推动创新的核心引擎。现在的IT基础架构已经到了一个由模型和算力相互促进,螺旋上升的新发展阶段。面对新的发展机遇,神州鲲泰从智算中心系统整体性能提升出发,提出了走新智算架构之路的策略,建立了高通量、高并行、高效率,低能耗的多样化智算架构。新的智算架构能够快部署、低投入地突破算力瓶颈,构建出性能更优、成本更低、能效更高的智算中心。未来每个智算中心,每台计算机都将是这样一种新的智算架构,从而实现算力的普惠。

本网信息来自于互联网与网友投稿,目的在于传递更多信息,并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,并请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益,请及时联系我们,本站将会在24小时内处理完毕。https://bj.motor-fun.com/9834.html

赞 (0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2024年5月21日 下午4:43
下一篇 2024年5月22日 下午3:31

相关推荐

  • 2023-2024冰上龙舟超级联赛(大连站)激情开幕

    “享冰雪乐趣、赏泊霞美景、扬龙舟精神,迎甲辰龙年”,2024年1月27日,由辽宁省体育局主办,大连市文化和旅游局、大连市体育局、大连市甘井子区人民政府承办、大连乾龙水上运动发展有限公司独家运营推广的2023-2024冰上龙舟超级联赛(大连站)暨甘井子区泊霞湾冰雪嘉年华在大连市甘井子区泊霞湾公园景区激情开幕。大连市人民政府副秘书长张晓峰出席活动并宣布开幕。省体…

    2024年1月27日
    0
  • “奇奇怪怪,缤纷一夏” ——2026丰台马家堡冰激凌甜品节圆满举办

    为积极响应“2026丰台消费季”的号召,进一步激发区域消费活力,营造浓厚的夏日文化氛围,主题为“奇奇怪怪,缤纷一夏”丰台马家堡冰激凌甜品节于7月24日正式拉开帷幕。本次活动由马家堡街道办事处、丰台区商务局、丰台区文化和旅游局、马家堡街道商会联合主办,为期三天,旨在通过一场集美食、潮玩、艺术、娱乐于一体的夏日盛会,为市民提供一个惠民、利民、乐民的休闲好去处,点…

    2026年7月27日
    0
  • “4.15”全民国家安全教育日主题宣传活动在密云举办

    4月15日,中国教育发展战略学会、北京市国家安全局联合在位于密云的全国青少年普法教育总部基地组织以“总体国家安全观·创新引领10周年”为主题的“4.15”全民国家安全教育日主题宣传活动暨首届公益演出,活动由中国教育发展战略学会教育法治专业委员会协办,北京国维宣通网络技术有限公司承办,并得到密云区红十字志愿服务团的大力支持。 党的二十大报告指出:“国家安全是民…

    2024年4月15日
    0
  • 进博五洲拼图·亚洲篇 | 聚焦绿色智能未来 日本松下续写中国情缘

    低碳智能出行解决方案、 电动自行车锂离子电池解决方案、 电池全生命周期数字解决方案、 …… 第六届中国国际进口博览会上, “熟面孔”松下再“放大招”, 聚焦“绿色”“智能”和“未来”。 今年展台两大主题: 一是如何为中国人健康生活作贡献, 二是如何为中国的双碳政策作贡献。 松下与中国结缘于1978年。 进博六载, 松下从未缺席, 不断续写与中国的故事。 -E…

    2023年11月10日
    0
  • 北京国枫兴华资产评估有限公司成功入围“中国品牌创新发展工程” 《品质中国》栏目

    2024年11月22日,“中国品牌创新发展工程”暨《品质中国》栏目选题会在北京顺利举行。北京国枫兴华资产评估有限公司董事长武永飞受邀参加此次选题会,并成功入围了《品质中国》栏目。 为推动质量强国建设,引领中国品牌创新,提升品牌国际竞争力,中国优质品牌融媒体互动访谈节目《品质中国》以“推介中国品质,见证品质中国”为口号,从全国各地各行业甄选出具有爱岗敬业的职业…

    2024年12月1日
    0
  • 学科阅读之花在这所农村中心小学绽放——记中国教育学会开题会暨通州区支持农村小学阅读项目成果交流会

    2025年4月16日中国教育学会《中小学全学科阅读促进学生学习内驱力形成的研究》课题开题会暨通州区支持农村小学阅读项目成果交流会在北京市通州区西集镇中心小学隆重举行。本次会议由中国教育学会、北京市通州区教育委员会主办,北京市通州区西集镇中心小学承办。 本次交流会分为两个阶段,第一阶段为学校阅读成果展示,第二阶段进行中国教育学会《中小学全学科阅读促进学生学习内…

    2025年5月13日
    0
  • 签约华视网聚!友小白IP在商业化上再进一步!

    友小白是谁?单看这个名字,大家或许有些陌生,但如果是看见这样一道充满活力乐趣的身影,想必大家脑海之中就会浮现出“原来是你”的念头。 关于友小白,自2022年7月份开始,漫动力旗下的友小白IP就开始在各大短视频平台进行更新创作。截止到目前为止,友小白IP的系列视频播放量早已突破3亿+。其中,友小白系列视频主要分为两大部分,分别是短剧《友小白之趣味生活》和单元剧…

    2024年5月16日
    0
  • 2025成长生活节启幕:好医生集团OTC事业部携明星产品与创新策略 守护家庭全周期健康

    7月的北京西山国家森林公园,蝉鸣伴笑语,树影映欢颜,2025搜狐&国家体育总局&好医生集团联合举办的《成长生活节》在此盛大开启。这场以“自然有办法”为核心主题的亲子盛会,吸引超400组家庭沉浸式体验自然与健康的融合。作为特约品牌,好医生集团以“好药好医生,健康好身心”为主题深度参与,其OTC事业部携多款明星产品与创新发展策略亮相,为亲子家庭送…

    2025年7月31日
    0
  • 设计“家”的美好未来,2024广州设计周盛大开幕!

    2024广州设计周于12月6-9日在广州隆重开幕,本届广州设计周以“一起”为主题,寓意一起破圈、一起发展、一起出海。展览内容聚焦“当代人居生活美学新业态的设计+选材”,在广州保利世贸博览馆、广州国际采购中心及南丰国际会展中心三馆同期举办,展览面 积18万平方米。汇聚来自中国、加拿大、意大利、德国、美国、日 本、西班牙、俄罗斯等20多个国家逾1000家产品设计…

    2024年12月6日
    0
  • 银发经济厦门论坛登央视财经,探讨健康产业新机遇

    2025年9月28日,CCTV-2财经频道《银发经济厦门论坛》专题节目正式播出。节目以45分钟的时长围绕“银发经济”与“健康产业”的双重议题展开了深入讨论。 其中上半场以《健康产业如何释放消费潜力》为主题,邀请无限极、和也、康宝莱三家企业代表及中国药学会药事管理专业委员会副主任委员田侃参与互动;下半场聚焦《健康产业如何创新发展》,汇聚新时代、森宇、完美、仙乐…

    2025年9月30日
    0