大模型推理爆发在即 国产芯片推进超节点布局!算力成本仍待优化|直击WAIC

4天前 生活 4观看
摘要《科创板日报》7月29日讯(记者 黄心怡)在2025世界人工智能大会上,英国皇家工程院院士郭毅可在演讲中指出,全球AI算力需求正以每两年750倍的速率极速扩张,中国云端AI芯片市场将在2027年突破480亿美元规模,国产GPU替代率预计

《科创板日报》7月29日讯(记者 黄心怡)在2025世界人工智能大会上,英国皇家工程院院士郭毅可在演讲中指出,全球AI算力需求正以每两年750倍的速率极速扩张,中国云端AI芯片市场将在2027年突破480亿美元规模,国产GPU替代率预计超80%。这不仅昭示数据中心成为科技竞争主战场,更预示着“普惠算力”将如同基础设施般支撑十亿级开发者生态。cre喜好网-记录每日喜好的科技时尚娱乐生活

《科创板日报》注意到,此次有两个超节点算力产品分别荣获了大会的人工智能引领者奖(SAIL奖)TOP30和WAIC“镇馆之宝”大奖。cre喜好网-记录每日喜好的科技时尚娱乐生活

其中,华为384超节点真机获本届大会的“镇馆之宝”奖项。在华为展区中,首次亮相的华为384超节点真机与基于CloudMatrix 384超节点的华为云新一代昇腾AI云服务备受关注。超节点首创将384颗昇腾NPU和192颗鲲鹏CPU通过全新高速网络MatrixLink全对等互联,形成一台超级“AI服务器”,算力规模300 PFlops。cre喜好网-记录每日喜好的科技时尚娱乐生活

imagecre喜好网-记录每日喜好的科技时尚娱乐生活

目前,华为云CloudMatrix 384超节点已在行业中得到应用,包括支撑新浪“智慧小浪”推理交付效率50%以上,支撑硅基流动每天为600万用户提供推理服务,支持中科院自研模型训练框架,构建AI4S科研大模型;推动面壁智能“小钢炮”模型推理业务性能提升;为360“超级搜索”纳米AI搜索提供性能领先、贴合需求的AI算力;助力讯飞大模型实现推理性能等。cre喜好网-记录每日喜好的科技时尚娱乐生活

而曦智科技联合壁仞科技、中兴通讯申报的“分布式OCS全光互连芯片及超节点应用创新方案”,斩获本届“SAIL”奖。cre喜好网-记录每日喜好的科技时尚娱乐生活

基于该技术方案,上海仪电联合曦智科技、壁仞科技、中兴通讯,正式发布国内首个光互连光交换GPU超节点——光跃LightSphere X。该超节点基于曦智科技全球首创的分布式光交换技术,采用硅光技术的光互连光交换芯片和壁仞科技自主原创架构的大算力通用GPU液冷模组与全新载板互连,并搭载中兴通讯高性能AI国产服务器及仪电智算云平台软件,构建起高带宽、低延迟、灵活可扩展的自主可控智算集群,即将于上海仪电智算中心落地。cre喜好网-记录每日喜好的科技时尚娱乐生活

imagecre喜好网-记录每日喜好的科技时尚娱乐生活

《科创板日报》获悉,燧原科技云燧ESL超节点系统正在测试中,单节点最高64卡全带宽互联,采用液冷方案,实现高性价比、高密度、高能效,可实现9216GB单节点存储容量、230TB/s单节点存储带宽、51.2TB/s单节点聚合带宽、单节点可支持PD分离优化。cre喜好网-记录每日喜好的科技时尚娱乐生活

imagecre喜好网-记录每日喜好的科技时尚娱乐生活

燧原展区集中还展示了庆阳、无锡、宜昌等智算中心的部署成果,以及“燧原®S60”人工智能推理卡在泛互联网领域的大规模商业化应用。此外,展区还展出了2025年初推出的DeepSeek一体机系列产品。cre喜好网-记录每日喜好的科技时尚娱乐生活

另一家国产GPU芯片厂商沐曦发布了旗舰GPU曦云C600,首发训推一体技术全栈方案。该芯片基于沐曦自主知识产权核心GPU IP架构,集成大容量存储与多精度混合算力,支持MetaXLink超节点扩展技术,并内置ECC/RAS多重安全防护模块,为金融、政务等关键领域提供算力基座。cre喜好网-记录每日喜好的科技时尚娱乐生活

imagecre喜好网-记录每日喜好的科技时尚娱乐生活

现场,沐曦与中国电子技术标准化研究院共同为“人工智能芯片技术研究及开源生态创新联合实验室”揭牌,双方将重点突破AI芯片标准制定与开源生态建设。cre喜好网-记录每日喜好的科技时尚娱乐生活

摩尔线程展示了以全功能GPU为核心的“云边端”全栈AI产品和解决方案,并首次提出“AI工厂”理念。摩尔线程创始人兼CEO张建中表示,摩尔线程将构建新一代AI训练基础设施,为AGI时代打造生产先进模型的“超级工厂”。 当单节点效率达到新高度,如何实现大规模集群的高效协作成为新的挑战。摩尔线程自研KUAE计算集群通过5D大规模分布式并行计算技术,实现上千节点的高效协作,推动AI基础设施从单点优化迈向系统工程级突破。cre喜好网-记录每日喜好的科技时尚娱乐生活

imagecre喜好网-记录每日喜好的科技时尚娱乐生活

目前国产芯片在大模型的训练和推理中正在发挥更大的作用。cre喜好网-记录每日喜好的科技时尚娱乐生活

阶跃星辰联合近10家芯片及基础设施厂商,共同发起“模芯生态创新联盟”。该联盟的首批成员包括华为昇腾、沐曦、壁仞科技、燧原科技、天数智芯、无问芯穹、寒武纪、摩尔线程、硅基流动等。目前,华为昇腾芯片已首先实现阶跃星辰新一代基础大模型Step 3的搭载和运行。沐曦、天数智芯和燧原科技等也已初步实现运行Step 3。其它联盟厂商的适配工作正在开展。cre喜好网-记录每日喜好的科技时尚娱乐生活

imagecre喜好网-记录每日喜好的科技时尚娱乐生活

此外,华为昇腾910B加速卡正式上线由无问芯穹与模速空间联合运营的全国首个“算力生态超市”——模速空间算力生态平台cre喜好网-记录每日喜好的科技时尚娱乐生活

大会期间还举行了模速空间算力生态平台2.0的发布仪式,这标志着模速空间、华为昇腾、无问芯穹三方共同开启“百亿生态共建”合作。作为全球最大人工智能孵化器——上海模速空间,日均Token调用量已成功突破100亿大关,累计服务10余个智慧场景、支撑100多个前沿AI创新应用,单应用月活高达数千万。cre喜好网-记录每日喜好的科技时尚娱乐生活

无问芯穹联合创始人、CEO夏立雪透露,无穹AI云的底层是一张深度覆盖全国的广域算力网,目前已成功覆盖“东数西算”国家战略布局的关键节点,汇聚了来自26个省市、53个核心数据中心的庞大算力资源,整合超15种主流芯片架构的异构算力池,总算力规模超25000P。基于强大的广域高性能专线内网互联互通,企业能够按需在不同地域、不同型号的算力资源之间进行实时切换与无缝迁移。cre喜好网-记录每日喜好的科技时尚娱乐生活

在无问芯穹与上海算法创新研究院的合作中,无界智算平台以“全链路解决方案”升级服务,帮助上海算创院实现大模型研发效率的飞跃,成功基于3000卡沐曦国产GPU集群,稳定支撑百亿参数大模型训练长达600小时不间断,创造了国产算力模型训练的记录cre喜好网-记录每日喜好的科技时尚娱乐生活

在与云南移动的合作中,无界智算平效利用2000张华为昇腾910B智算加速卡,实现了千亿参数模型的分布式部署与大规模推理。cre喜好网-记录每日喜好的科技时尚娱乐生活

上海首个人工智能终端软硬适配优化中试平台在会上启动。无问芯穹与上海创智学院、理想汽车、联想集团、江城实验室、信通院、智元机器人、上海英和、中兴通讯、爱芯元智、上海仪电、中科睿芯、岩芯数智、兆芯集成十余家伙伴,启动人工智能终端中试平台的首期建设。cre喜好网-记录每日喜好的科技时尚娱乐生活

对于国产芯片在大模型浪潮下的机遇与挑战,燧原科技创始人赵立东在阶跃星辰Step 3大模型发布会上表示,国产AI芯片面前有两座大山,一是高端芯片制造,二是生态。”在生态方面,当前处于高性能推理爆发的时间点,机遇在于大模型和芯片如何深度优化性能,并降低成本。“业内一直在强调算力普惠,但现在既不普、也不惠,这恰恰是国产模型跟国产芯片合作的重要契机。”cre喜好网-记录每日喜好的科技时尚娱乐生活

壁仞科技创始人张文同样认为,如何降低大模型的推理成本是一大痛点。此外,先进AI芯片的产能对于国内AI持续健康发展非常关键。“AI三个要素是数据、算法和算力。在数据、算法方面中国是不落后的,算力方面需要一点时间追赶,相信能通过时间慢慢追上来。cre喜好网-记录每日喜好的科技时尚娱乐生活

除了芯片企业,多家AI基础设施厂商也带来了新进展。cre喜好网-记录每日喜好的科技时尚娱乐生活

中国电信在会上发布算网一体服务。中国电信董事长柯瑞文表示,算间网络是基础,实现全国算力一张网,算网一体化调度是关键,实现全国调度一体化。通过算网一体服务,能够有效降低算网使用成本,提高算力使用效率。cre喜好网-记录每日喜好的科技时尚娱乐生活

柯瑞文称,将打造大容量、低时延、高速无损的新一代智算网络,支持用户便捷入算,实现算间高效传输;发挥云网融合优势,推动算网深度协同,通过智能云,实现对跨域、异构算力资源的灵活调度,为客户提供一云多芯、分布式、可便捷获取的智算服务。cre喜好网-记录每日喜好的科技时尚娱乐生活

九章智算云Alaya NeW Cloud正式发布了其GPU算力服务平台Aladdin。过去三个月,Aladdin平台的用户已覆盖清华大学、北京大学、复旦大学、哈尔滨工业大学、上海交通大学等全国多数“双一流”高校的AI研究团队。另外,平台用户中还包含诸多海外高校,QS前100高校占比80%以上。cre喜好网-记录每日喜好的科技时尚娱乐生活

imagecre喜好网-记录每日喜好的科技时尚娱乐生活

数据中心是AI能耗的主要领域。大会期间,施耐德电气商业价值研究院正式发布《算电协同——数据中心的能源挑战与应对》洞察报告,其中指出,随着全球算力需求的爆发式增长,数据中心将面临供电稳定性、成本控制和碳排放管理三重挑战。为推进算力与电力两大系统的协同优化,施耐德电气提出“算电协同”三层架构及系统化解决方案。为应对AI能耗挑战,施耐德电气带来了SmartCool 2.0末端空调节能解决方案,融合机器学习技术,可基于IT负载需求进行秒级同频动态制冷输出管理。cre喜好网-记录每日喜好的科技时尚娱乐生活

imagecre喜好网-记录每日喜好的科技时尚娱乐生活

中信国际电讯展示了基础设施方面的布局。据悉,公司已在全球五大洲部署了丰富资源,包括近170个网络服务节点、21座云平台、30+数据中心及3座全天候运营的安全运营中心(SOCs)。cre喜好网-记录每日喜好的科技时尚娱乐生活

imagecre喜好网-记录每日喜好的科技时尚娱乐生活

展开全文
猜你感兴趣
红魔10 Pro系列首批好评率达100%,4999元起

红魔10 Pro系列首批好评率

不久前红魔方面正式推出新款旗舰电竞

11-19 94阅读
上汽荣威飞凡全新R7亮相广州车展,携冠军双车实力“宠粉”

上汽荣威飞凡全新R7亮相广

11月15日,2024广州国际车展盛大开幕。

11-19 104阅读
iQOO Neo10系列新机继续预热,将标配“双芯”

iQOO Neo10系列新机继续预

作为iQOO旗下一贯以高性价比着称的产

11-19 104阅读
 立冬时节“霜寒重”,墨迹天气暖意浓

立冬时节“霜寒重”,墨迹

“寒风入城悄无声,未品秋浓已立冬。”

11-19 97阅读
10月iOS设备好评榜:轻薄才是第一选择

10月iOS设备好评榜:轻薄才

好评榜数据来自安兔兔评测APP内,

11-19 106阅读
古风夜景汉服人像调色教程

古风夜景汉服人像调色教程

11-19 95阅读
 聚焦 | 融合共生,2024了不起的女BOSS新商业美学峰会暨时尚之夜璀璨上演

聚焦 | 融合共生,2024了不

10月20日,2024了不起的女BOSS新商业美

11-19 104阅读
 高梵KIDS 星光熠熠,巴图、博谷成新代言人!

高梵KIDS 星光熠熠,巴图、

10月10日 —— 在这个星光熠熠的夜晚

11-19 113阅读
探寻高端生活方式品牌的数字转型之路,VOGUE Business峰会在米兰召开

探寻高端生活方式品牌的数

9月27日,VOGUE Business携手独家战

11-19 100阅读
在吃都吃不饱的1961 巩县二中凭啥创造全省第一全国第六高考传奇(在吃都吃不饱的1961)

在吃都吃不饱的1961 巩县

60年代的老照片 60年代的巩

11-19 98阅读
我们的传承坚定有力(评论员观察)——从“千年瓷都”看文化传承发展

我们的传承坚定有力(评论员

中华优秀传统文化是中

11-19 96阅读
七夕有没有空

七夕有没有空

漂亮的女同事问我七夕有没有空。

11-19 111阅读
有个女生跟我说

有个女生跟我说

某一天,有个女生跟我说,她是我男友的女

11-19 118阅读
拖延症特别严重

拖延症特别严重

拖延症特别严重。 大学时就是。

11-19 96阅读
黑花生的功效与作用

黑花生的功效与作用

功效与作用抗衰老、预防心血管疾病、改

11-19 110阅读