(网经社讯)7月28日，阿里云宣布真武M890超节点实例已Day0适配Kimi K3，成为国内首个成功运行近3万亿参数模型的超节点。该超节点通过ICN Switch高速互联芯片，将64张平头哥真武M890芯片以800GB/s全互联，显存规模达9TB，单实例即可支撑大规模万亿级MoE模型的专家并行需求。
据网经社AI台（AI.100EC.CN）获悉，Kimi K3总参数达2.8万亿，跑通这一规模的模型需要将参数分散到几十张甚至上百张高速互联的GPU卡上。为提升Kimi K3运行效率，阿里云、平头哥与Kimi团队从软件栈、算子层面进行了深度联合适配，真武M890针对Kimi K3模型架构的核心算子进行专项优化，显著提升了推理的算力和带宽利用率。
实测数据显示，适配后模型首Token时延降低约35%，单卡解码吞吐提升1.8倍，可稳定支持1M长上下文。千问AI平台和阿里云百炼将同步提供Kimi K3的模型API服务。阿里云表示，该适配验证了国产算力已具备支撑超大参数模型大规模应用的能力。
浙江网经社信息科技公司拥有18年历史，作为中国领先的数字经济新媒体、服务商，提供“媒体+智库”、“会员+孵化”服务；（1）面向电商平台、头部服务商等PR条线提供媒体传播服务；（2）面向各类企事业单位、政府部门、培训机构、电商平台等提供智库服务；（3）面向各类电商渠道方、品牌方、商家、供应链公司等提供“千电万商”生态圈服务；（4）面向各类初创公司提供创业孵化器服务。
网经社“电数宝”电商大数据库（DATA.100EC.CN，免费注册体验全库）基于电商行业18年沉淀，包含100+上市公司、新三板公司数据，150+独角兽、200+千里马公司数据，4000+起投融资数据以及10万+互联网APP数据，全面覆盖“头部+腰部+长尾”电商，旨在通过数据可视化形式帮助了解电商行业，挖掘行业市场潜力，助力企业决策，做电商人研究、决策的“好参谋”。
【版权声明】秉承互联网开放、包容的精神，网经社欢迎各方(自)媒体、机构转载、引用我们原创内容，但要严格注明来源网经社；同时，我们倡导尊重与保护知识产权，如发现本站文章存在版权问题，烦请将版权疑问、授权证明、版权证明、联系方式等，发邮件至NEWS@netsun.com，我们将第一时间核实、处理。
打开微信“扫一扫”
打开微信“扫一扫”
.png)
.png)
.png)
.png)
