国产算力破局,超节点才是胜负手

2次浏览

算力的重要性,再度得以凸显。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

近段时间,GLM 5.2、Kimi K3.0上新叠加DeepSeek投资人会议纪要外泄,将算力紧张的现实摆上了桌面。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

这意味着,国产大模型要再进一步,必须迈过算力门槛。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

围绕算力的争议一度平息,为何当下再掀波澜?国产算力走到哪一步了?超节点会成为破局的关键抓手吗?WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

算力门槛无法绕过WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

曾几何时,堆算力在全球风靡一时,被业界戏称为“力大飞砖”。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

由于种种缘由,这条路在国内并不好走,算力紧张一直困扰着行业,直到DeepSeek面世,通过算法优化等手段降低了对算力的依赖,才打破了以往的粗放思维。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

这之后,借助技术手段为算力做减法,成为行业的共识:灵活启动MoE架构的参数规模,可以减少单次推理的计算量;优化注意力机制,可以缓解长上下文的显存压力;借助开源模型打造垂直模型,可以减低模型的训练量……WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

图源:图灵编辑部WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

毕竟,花小钱办大事是国人最喜闻乐见的操作。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

此背景下,永远缺算力的叙事在国内逐渐沉寂了下去,而消除算力溢价的叙事大行其道,相关担忧的声音自然逐渐平息。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

不曾想,国产大模型后来居上,纷纷跻身国际第一梯队,随之而来的则是算力相对不足,不得不采取限购、涨价等措施以抑制越来越火旺的需求。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

于是乎,另辟蹊径可以绕过算力门槛的逻辑破产了。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

复盘来看,单次推理效率优化,不等于可以满足算力总需求,一旦需求量高企,令模型满负荷工作,算力就可能出现缺口。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

以Kimi K3为例,模型参数高达2.8T,但为了提高效率单个Token只激活104B参数,通常情况下足以游刃有余,但Kimi K3出圈之后Token消耗激增,Token的总吞吐量也水涨船高,最终抬高了对算力的需求。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

图源:月之暗面官微WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

“伯虎财经”表示:“Kimi K3主打长程编程和Agent任务,一次任务不是问答一轮,而是模型反复读代码、调用工具、自我纠错,用户看到的是一个请求,后台可能跑了几十次推理。”WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

这个现象,高度契合经济学的杰文斯悖论。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

百度百科显示,1865年经济学家威廉·斯坦利·杰文斯提出一个理论,当技术进步提高了资源利用效率之后,反而可能导致资源的总消耗量增加,而不是减少。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

通俗易懂地说,大模型的推理成本下降了,但模型能力却在不断变强,可以满足更多、更复杂的应用场景,从而吸引越来越多用户入局,一旦边界彻底打开,基本盘就会越做越大,在需求激增之下,算力扩容成为必由之路。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

其实,针对算力的基础建设一直没有放松。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

公开资料显示,2025年国内智能算力规模为1590 ExaFLOPS,到了2026年上半年,智能算力规模达2185EFLOPS,同比增长177%,呈现爆发式增长。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

超节点堪称大模型的最佳搭子WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

智能算力规模爆发式增长背后,则是国产AI芯片走到了舞台中央。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

譬如,昆仑芯发布了第四代AI芯片M100,主要针对大规模推理场景(尤其是MOE模型)进行优化设计,以全国产对标NVIDIA H20,主打高性价比推理应用。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

摩根大通的数据显示,百度昆仑芯片收入预计将从2025年的约13亿元飙升至2026年的83亿元,同比增长超6倍。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

再譬如,平头哥发布了新一代AI芯片真武M890,性能较上一代提升了3倍,可以满足更大的大模型训练及推理需求。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

官方数据显示,真武AI芯片累计出货56万片,服务20多个行业的400多家客户,其中在智驾行业已部署超13万卡、客户涵盖小鹏、理想、蔚来等头部造车新势力。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

一言以蔽之,国产AI芯片崛起为国产算力提供了“定心丸”。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

尤为值得一提的是,超节点走出了实验室,成为国产AI芯片下一个新战场,也为国产算力带来更大的想象力。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

所谓超节点,即将数张、数十张、数百张AI芯片融为一体,组成具备一台计算机特征的超级计算系统,从而大幅提升性能缩小与国外高端芯片的差距,并大幅降低Token的成本。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

沐曦股份研发副总裁黄向军表示:“随着模型规模越来越大,尤其是万亿参数的大模型,客观上需要更大规模的GPU,通过高带宽连接在一起。此外,MOE的模型专家间的通信,无论是训练还是推理都要求延迟越低越好,超节点这个架构比普通的服务器更适合。”WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

需要注意的是,超节点并不是简单的堆芯片。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

超节点的核心竞争力是借助超大带宽、超低时延、软硬协同等技术优势,最大程度实现“高效率、低成本”夙愿,将字面算力变成可用算力。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

CHIP实验室主任罗国昭表示:“一个2万亿参数的MoE模型往往需要同时调用多个专家网络,每完成一步推理,都需要不同GPU之间频繁交换数据。如果互联带宽不足,大量GPU不得不停下来等待数据同步,即使理论算力充足,也难以真正发挥出来。这也是业内常说的‘GPU不是在计算,而是在等待’。”WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

不难看出,超节点是解决当下算力紧张的最优解。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

尽管如此,作为新物种的超节点也面临诸多技术分歧,其中排在首位的就是规模到底多大合适,不同企业有不同的答案。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

一种声音认为,节点越大越好。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

随着大模型进入万亿参数时代、上下文长度突破千万以及并发推理持续增长,超节点走向百卡、千卡甚至万卡是必然的。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

唯有大节点,才可以满足大模型的全场景需求。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

这条技术路径的典型代表是昇腾,其推出的384卡超节点已销售了750多套,目前已迭代至1024卡超节点,实现了业界最大的256TB跨物理节点的内存统一编址空间,且将推出8192卡超节点,进一步探索超节点的满配技术上限。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

另外一种声音认为,节点越经济越好。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

大模型既要高带宽、高性能,也要低时延、强稳定,因而需要进行平衡,更为重要的是配置的AI芯片数量相对较少,成本也会随之降低,适合中小企业的实际需求,避免出现算力浪费。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

如此一来,小节点也大行其道。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

这条技术路径的典型代表是浪潮信息,先是推出64卡超节点,契合小节点的主流路线,最新产品降为32卡。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

浪潮信息副总裁赵帅表示:“我们自己内部用万亿大模型做AI Coding,效率绝对比用千亿大模型好,这就是万亿参数大模型带来的价值,所以再次推出32卡产品,让更多企业真正用得起。”WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

总而言之,超节点最初并不受重视,随着交付能力的提升以及算力紧张的肉眼可见,一跃成为大模型的最佳搭子,百度、阿里巴巴、浪潮信息、沐曦科技、摩尔线程等大大小小的玩具纷纷入局,为AI基础设施生态注入了新动力。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

那么,国产算力破局正当时。WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM


WMX速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

本文链接:http://m.sushuapos.com/show-3-182688-0.html国产算力破局,超节点才是胜负手

声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

热门文章

延伸阅读

相关阅读

1月钢铁市场震荡延续 钢企盈利面临收缩压力
  1月钢铁市场震荡延续 钢企盈利面临收缩压力  证券时报记者 黄翔  2023年下半年以来,国内钢材市场开始呈现震荡上涨的行情。进入2024年,钢价能否延续这一趋势受到关注。  据了解,去年钢铁行业经历先抑后扬的走
佐力药业新药获批 华东医药能否打赢大单品保卫战?
  佐力药业新药获批 华东医药能否打赢大单品保卫战?  每经记者 陈星 每经编辑 文多  华东医药(SZ000963,股价35.18元,市值617.21亿元)和佐力药业(SZ300181,股价10.70元,市值75.05亿元)的专利纷争或再升级。  1月7
龙年春节档的卖相与怪相
  龙年春节档的卖相与怪相  龙年春节档迎来尾声。回望春节前夕,无超级大片,多数影片都是熟面孔且不举行首映,观众进影院如开盲盒。以“贾玲减重100斤”为首的各种营销策略铺天盖地袭来,一度让部分观众产生逆反心理,对
推动全党全社会学好用好党史
【光明论坛】近日,中共中央印发《党史学习教育工作条例》(以下简称《条例》),对于推动党史学习教育常态化长效化,推动全党全社会学好党史、用好党史,从党的历史中汲取智慧和力量,弘扬伟大建党精神,传承红
各地开启龙年“抢人” 企业所求不止于短期用工
  各地开启龙年“抢人” 企业所求不止于短期用工    2024年刚刚“开局”,各地便已开始为复工“冲刺”。无论在沿海地区还是内陆城市,“抢人大战”热战正酣,专车接送、食宿全包......各地大招频出,力争在招工上“先人
广州一大桥被撞断裂 当地多举措保障受影响民众生活
  广州一大桥被撞断裂 当地多举措保障受影响民众生活  中新社广州2月22日电 题:广州一大桥被撞断裂 当地多举措保障受影响民众生活  中新社记者 王坚  佛山籍集装箱船“良辉688”轮于22日5时31分左右,在航经广

热点精选

最新推荐

您可能感兴趣