Kimi K3开源:海外热议,华为阿里等国产算力已适配

观察者网
1次浏览

文/观网硬科技kYY速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

7月27日深夜,月之暗面(Moonshot AI)正式开源Kimi K3模型权重,同步发布技术报告,并开放支撑模型训练的三项关键基础设施技术——MoonEP、FlashKDA和AgentEnv。这款总参数量达2.8万亿的混合专家(MoE)模型,是全球首个开源的3万亿级别模型,也是迄今为止参数规模最大的开源模型。kYY速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

K3开源后在全球开发者社区迅速引发反响。模型托管平台Hugging Face CEO Clem Delangue发文称,Kimi K3发布后仅30分钟便获得超过4000个点赞,登顶平台Trending榜首,创下平台迄今最快的发布增长速度。截至上线半小时前,已有近3700名开发者在等待下载。kYY速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

北美AI基础设施创企OsmanticAI的创始人兼CEO Ahmad将Kimi K3称为“本地版Fable 5”,并“强烈建议大家下载体验”,称这样“他们永远也夺不走我的Fable 5”了。美国AI创企Cognition宣布Kimi K3接入Devin桌面客户端与命令行工具,并表示:“在FrontierCode 1.1评测基准上,Kimi K3是我们测试过首款性能逼近前沿水准的开源模型。”kYY速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

kYY速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

Kimi K3开源 kYY速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

Kimi K3开源后,国产算力也积极适配。kYY速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

华为计算发文表示,此次Kimi K3一经开源发布,昇腾即实现0day(指在产品正式发布或系统上线当天“第0天”就能完全兼容和正常运行的能力)适配:在训练侧,基于MindSpeed MM在Atlas 800 A3、Atlas 900 A3 SuperPoD上完成训练复现,在算子、并行加速、显存优化等方面进行专项优化;在推理侧,通过vLLM Ascend与 SGLang开源推理引擎实现快速部署,同时,昇腾950超节点支持FP8、MXFP8、MXFP4等全系列数值精度格式,原生支持Kimi K3的mxFP4量化权重。kYY速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

与此同时,阿里云也发文称,阿里云真武M890超节点实例已Day0适配Kimi K3,并称其是国内首个跑通近3万亿参数模型的超节点。千问AI平台和阿里云百炼也将提供Kimi K3的模型API。kYY速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

Kimi K3是目前业界参数规模最大的模型之一,跑通这一规模的模型需要将参数分散到几十张甚至上百张高速互联的GPU卡,让万亿参数“跑得又稳又快”。然而,普通AI集群因通信带宽的局限,无法满足高吞吐、低延迟、高并发的需求。kYY速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

阿里云表示,为提升Kimi K3的运行效率,阿里云、平头哥与Kimi团队从软件栈、算子等层面进行了深度联合适配。例如,真武M890对Kimi K3模型架构的核心算子进行优化,显著提升推理的算力和带宽利用率,可稳定支持最1M长上下文,从容应对长文档理解、复杂推理等场景。测试显示,适配后模型的首Token时延降低约35%,单卡解码吞吐提升1.8倍。kYY速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

kYY速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

华为超节点 kYY速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

Kimi K3面向长程编程、知识工作和推理等前沿智能场景而设计。模型基于KDA混合线性注意力机制(Kimi Delta Attention)和注意力残差(Attention Residuals)技术构建,原生支持视觉理解,并拥有100万token上下文窗口,在保持顶尖能力的同时,将KV Cache压缩75%,长上下文解码速度最高提升6.3倍,大幅优化了训练与推理的效率及成本。kYY速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

海外AI基础设施厂商同样迅速响应。Nebius、Baseten、Fireworks等厂商随即宣布Day 0适配Kimi K3。Nebius称:“Kimi K3是首个达到前沿性能水平的开放权重模型,是开放模型发展历程中的一大进步。”kYY速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

Modal、Together AI、Nebius、GMI Cloud、Baseten和Fireworks AI均预告将在权重发布当天提供托管或推理服务。vLLM和SGLang两大开源推理框架也已提供首日支持,开发者拿到权重后即可直接部署。Fireworks AI更宣布Kimi K3已可用于Multi-LoRA serving和训练。kYY速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

海外开发者的态度与半年前已截然不同。半年前DeepSeek-V3开源时,海外社区的讨论更多是“又一个中国模型”;而到了Kimi K3,话题变成了“它比Claude Opus强”、“开发者正在把Fable换成K3”。kYY速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

然而,影响力的扩大也意味着被盯上的风险在增加。就在Kimi K3开源引发热议的同时,美国参议员蒂姆·斯科特和比尔·哈格蒂已提案扩大美国商务部权限以限制外国对手接触AI技术。美国商务部去年曾考虑将月之暗面、DeepSeek、阿里Qwen团队等中国AI实验室列入实体清单。白宫还曾考虑通过行政令,要求使用中国模型的美国企业对安全事件承担责任。OpenAI、Anthropic等美国闭源AI企业曾提案禁用中国开源模型。kYY速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

对此,中方敦促美方倾听中美两国业界客观、理性声音,纠正霸权思维,停止对中国企业的抹黑和制裁威胁。对于任何实质性损害中方利益的行为,中方将采取一切必要措施,坚定维护自身正当合法权益。kYY速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

而制裁的合理性也正受到越来越多质疑。近200家美国初创企业敦促政府不要切断对中国开源模型的访问,认为这将削弱美国企业竞争力。当美国企业自己都在使用中国的开源模型时,AI能力正在从少数公司的技术优势变成全球开发者可以调用的基础工具,这个趋势不会因为一纸制裁令而改变。kYY速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

本文系观察者网独家稿件,未经授权,不得转载。 kYY速刷资讯——探索最新科技、每天知道多一点SUSHUAPOS.COM

本文链接:http://m.sushuapos.com/show-3-181634-0.htmlKimi K3开源:海外热议,华为阿里等国产算力已适配

声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

热门文章

延伸阅读

相关阅读

网红自热火锅为何变冷了?
  网红自热火锅为何变冷了?  不插电、不用火,就能吃上热腾腾的小火锅。  作为一种便捷、快速的食品,自热火锅曾受到不少消费者的追捧,这背后是快节奏生活中,“懒人”群体和宅经济的逐步兴起,让自热火锅一度成为一个新
外媒关注中国春节新变化:年味更浓、消费强劲、旅游更热
  外媒关注中国春节新变化:年味更浓、消费强劲、旅游更热  中新网2月18日电(魏晨曦)2024年春节是农历新年被确定为联合国假日的第一个春节,浓浓的年味,丰富的美食,消费的热潮……中国人把春节过出了新高度,中国经济的
可用文本生成视频 虚拟与现实已分不清?Sora将带来什么
  OpenAI首个视频生成模型发布   可用文本生成视频 虚拟与现实已分不清?Sora将带来什么  在2月16日,OpenAI宣布推出全新的生成式人工智能模型“Sora”。据了解,通过文本指令,Sora可以直接输出长达60秒的视频,并且包
汇聚民心民意 代表委员以实际行动彰显新时代使命担当
2024年全国两会召开在即。过去一年,全国人大代表和全国政协委员们心系国是、情牵民生,交出了一份份合格的履职答卷。在履职中他们关注哪些热点难点问题?今年他们又准备了什么议案和提案、建议?让
发展新质生产力能够扩大社会有效需求
当前,进一步推动我国经济回升向好需要克服一些困难和挑战,主要体现为有效需求不足、社会预期偏弱等问题。习近平总书记在中共中央政治局第十一次集体学习时强调,新质生产力是创新起主导作用,摆脱传统
追加补贴 美国打响全球半导体“军备竞赛”
  追加补贴 美国打响全球半导体“军备竞赛”    当地时间2月21日,美国芯片巨头英特尔在加州圣荷西举办首次晶圆代工活动。美国商务部长吉娜・雷蒙多在活动上表示,如果美国想在半导体领域“引领世界”,就要进一步加

热点精选

最新推荐

您可能感兴趣