GPU持续升级 如何应对算力“贫富差距”

人民网
878次浏览

英伟达的GPU又升级了。3月19日,英伟达CEO黄仁勋发布了最新的B200算力芯片GPU,FP8精度下的训练性能是上一代的2.5倍,FP4精度下的推理性能更是达到了上一代的5倍。然而,这场技术狂欢背后,却令AI领域算力的“贫富差距”更加凸显。AYx速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

大模型获得突破以来,无论是产业巨头还是学术界,都在为获取足够的算力资源而苦苦挣扎。去年9月,甲骨文董事长埃里森和特斯拉CEO马斯克在硅谷一家豪华餐厅中向黄仁勋“乞求”GPU的场景还历历在目。近日,人工智能领域知名学者、斯坦福大学教授李飞飞再次表达担忧:高校的AI研究已经被高昂的GPU成本所拖累,逐渐被产业界甩在身后。AYx速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

Meta可以为模型训练采购高达35万个GPU,而斯坦福大学的自然语言处理小组,却总共只有68个GPU——这种“万”与“个”的悬殊对比,揭示了算力鸿沟的残酷现实。为此,李飞飞提出建立“国家级算力与数据集仓库”的计划,并称其重要性堪比“登月投资”。AYx速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

对我国而言,情况同样严峻。以GPU等AI芯片为代表的稀缺算力资源,优先向少数大型企业供给,高校、中小微企业苦于高昂成本难以参与其中。AYx速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

在此背景下,超大规模智算中心的建设或许能为解决算力短缺问题提供一个思路,成为我国在全球AI竞争中取得优势的重要一环。AYx速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

事实上,我国早已在算力基础设施上展开积极布局。“东数西算”工程作为国家级的工程项目,在全国范围内规划了八大枢纽节点和十大数据集群,并且已经取得显著进展。AYx速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

以十大集群之一的韶关集群为例,前不久,其首批上线运营的华南数谷智算中心,一期规划算力16000P(1P约等于每秒1000万亿次计算速度),规模居粤港澳大湾区首位。预计到2025年初,韶关集群的智能算力规模将达到50000P,成为大湾区、广东省乃至整个华南地区的最大体量。这些算力资源,不仅可以满足高校的科研需求,还可以为中小企业等各行各业提供实时、高效的算力支持。AYx速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

然而,超大规模智算中心的建设并非易事。它需要突破一系列核心技术,其中异构算力的统筹和调度尤为关键。异构计算,即多种算力的混合使用,对于实现全国算力中心的大一统和优化资源利用至关重要。在多个数据中心或智算中心互联互通的复杂场景下,异构计算的挑战前所未有。传播内容认知全国重点实验室研究员张冬明表示,在异构算力的建设和发展过程中,国产AI芯片必将扮演越来越重要的角色。然而就目前来说,受配套软件、固件支持等生态系统方面的制约,真正能够有效支撑大模型训练的国产算力集群并不多。AYx速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

这些情况已被有关部门敏锐捕捉到。今年年初,工业和信息化部等七部门联合印发的《关于推动未来产业创新发展的实施意见》中提到:“加快突破GPU芯片、集群低时延互连网络、异构资源管理等技术,建设超大规模智算中心,满足大模型迭代训练和应用推理需求。”AYx速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

专家认为,在当前阶段,大部分算力性能的提升主要来自“系统集成”。既有基于小芯粒技术的芯片级集成,也有基于一卡多芯技术的板卡级集成,还有基于液冷和高互联的机架级集成。因此,建议在加强单芯片能力的同时,应注重提升AI算力的系统集成能力,从单点突破转向横向拓展,对芯粒、液冷、互联等相关技术持续投入,进一步实现AI算力系统的高算力、高效能、高稳定、高性价比。AYx速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

当前,智算中心正在成为通用人工智能发展的关键。而超大规模智算中心,正在成为智算中心持续演进的未来形态。随着智算中心的发展成熟,“开箱即用”的智能计算服务有望成为主流。当然,这需要产业界、学术界和政府的通力合作。AYx速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

在算力资源的统筹配置方面,业内人士建议,政府可以通过行政手段,以统筹建设的方式集中采购,通过“云化”将算力按P销售,再以“算力券”等的方式补贴中小型科研机构,以促进AI的研究和应用发展。AYx速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

英伟达的GPU又升级了。3月19日,英伟达CEO黄仁勋发布了最新的B200算力芯片GPU,FP8精度下的训练性能是上一代的2.5倍,FP4精度下的推理性能更是达到了上一代的5倍。然而,这场技术狂欢背后,却令AI领域算力的“贫富差距”更加凸显。AYx速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

大模型获得突破以来,无论是产业巨头还是学术界,都在为获取足够的算力资源而苦苦挣扎。去年9月,甲骨文董事长埃里森和特斯拉CEO马斯克在硅谷一家豪华餐厅中向黄仁勋“乞求”GPU的场景还历历在目。近日,人工智能领域知名学者、斯坦福大学教授李飞飞再次表达担忧:高校的AI研究已经被高昂的GPU成本所拖累,逐渐被产业界甩在身后。AYx速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

Meta可以为模型训练采购高达35万个GPU,而斯坦福大学的自然语言处理小组,却总共只有68个GPU——这种“万”与“个”的悬殊对比,揭示了算力鸿沟的残酷现实。为此,李飞飞提出建立“国家级算力与数据集仓库”的计划,并称其重要性堪比“登月投资”。AYx速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

对我国而言,情况同样严峻。以GPU等AI芯片为代表的稀缺算力资源,优先向少数大型企业供给,高校、中小微企业苦于高昂成本难以参与其中。AYx速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

在此背景下,超大规模智算中心的建设或许能为解决算力短缺问题提供一个思路,成为我国在全球AI竞争中取得优势的重要一环。AYx速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

事实上,我国早已在算力基础设施上展开积极布局。“东数西算”工程作为国家级的工程项目,在全国范围内规划了八大枢纽节点和十大数据集群,并且已经取得显著进展。AYx速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

以十大集群之一的韶关集群为例,前不久,其首批上线运营的华南数谷智算中心,一期规划算力16000P(1P约等于每秒1000万亿次计算速度),规模居粤港澳大湾区首位。预计到2025年初,韶关集群的智能算力规模将达到50000P,成为大湾区、广东省乃至整个华南地区的最大体量。这些算力资源,不仅可以满足高校的科研需求,还可以为中小企业等各行各业提供实时、高效的算力支持。AYx速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

然而,超大规模智算中心的建设并非易事。它需要突破一系列核心技术,其中异构算力的统筹和调度尤为关键。异构计算,即多种算力的混合使用,对于实现全国算力中心的大一统和优化资源利用至关重要。在多个数据中心或智算中心互联互通的复杂场景下,异构计算的挑战前所未有。传播内容认知全国重点实验室研究员张冬明表示,在异构算力的建设和发展过程中,国产AI芯片必将扮演越来越重要的角色。然而就目前来说,受配套软件、固件支持等生态系统方面的制约,真正能够有效支撑大模型训练的国产算力集群并不多。AYx速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

这些情况已被有关部门敏锐捕捉到。今年年初,工业和信息化部等七部门联合印发的《关于推动未来产业创新发展的实施意见》中提到:“加快突破GPU芯片、集群低时延互连网络、异构资源管理等技术,建设超大规模智算中心,满足大模型迭代训练和应用推理需求。”AYx速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

专家认为,在当前阶段,大部分算力性能的提升主要来自“系统集成”。既有基于小芯粒技术的芯片级集成,也有基于一卡多芯技术的板卡级集成,还有基于液冷和高互联的机架级集成。因此,建议在加强单芯片能力的同时,应注重提升AI算力的系统集成能力,从单点突破转向横向拓展,对芯粒、液冷、互联等相关技术持续投入,进一步实现AI算力系统的高算力、高效能、高稳定、高性价比。AYx速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

当前,智算中心正在成为通用人工智能发展的关键。而超大规模智算中心,正在成为智算中心持续演进的未来形态。随着智算中心的发展成熟,“开箱即用”的智能计算服务有望成为主流。当然,这需要产业界、学术界和政府的通力合作。AYx速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

在算力资源的统筹配置方面,业内人士建议,政府可以通过行政手段,以统筹建设的方式集中采购,通过“云化”将算力按P销售,再以“算力券”等的方式补贴中小型科研机构,以促进AI的研究和应用发展。AYx速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

本文链接:http://m.sushuapos.com/show-2-4112-0.htmlGPU持续升级 如何应对算力“贫富差距”

声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

热门文章

延伸阅读

相关阅读

专访北京知产法院副院长宋鱼水:依法适用惩罚性赔偿,加大恶意侵权打击
21世纪经济报道 记者郑雪 北京报道保护知识产权就是保护创新。伴随人工智能产业发展如火如荼,知识产权保护越发重要和紧迫。AI训练数据侵权隐忧如何解决?人工智能生成物是否可以版权保
领克 07 EM-P 车型采用“The Next Day”设计语言、关键词“轻盈”
3 月 8 日消息,在目前正在进行的“领克07 EM-P车型全球首秀展示会上”,官方正式介绍了领克07 EM-P车型,可选银 / 蓝双色,不过没有公布具体价格信息和性能信息。外观方面,该车采用“The Next Day设计原则”,号称“为
专访全国人大代表、天津市滨海新区区长单泽峰:把握新质生产力,加强与北京科技创新体系融合
21世纪经济报道记者周慧 实习生刘龙珠北京报道2024年是京津冀协同发展上升为国家战略十周年,2024年政府工作报告提出,支持京津冀、长三角、粤港澳大湾区等经济发展优势地区更好发挥高
专访全国人大代表、宜昌市市长马泽江:打造“电化长江”示范区,构筑长江经济带中上游新增长极
21世纪经济报道记者吴文汐 北京报道 “三峡门户”宜昌地处长江经济带重要节点,是湖北省域副中心城市,也是长江中游城市群中的重要成员。2023年,宜昌实现经济增速7.1%,居湖北全省前列;经
日本漫画家鸟山明逝世 外交部:深切哀悼
中国外交部今天(8日)举行例行记者会。会上,有记者就日本知名漫画家鸟山明因病逝世提问。对此,外交部发言人毛宁表示,我们对鸟山明先生逝世表示深切的哀悼,向他的家属表示诚挚的慰问。鸟山
采用纯视觉智驾 极越获L3自动驾驶测试牌照
近日,极越获颁中国光谷首张L3自动驾驶测试牌照,可在指定区域开展有条件的自动驾驶道路测试。极越将持续提升智能驾驶研发的创新力和硬实力,同时也将助力武汉市在智能驾驶领域的发展和示范应用的落地。  2023年1月,

热点精选

最新推荐

您可能感兴趣