要点速览2026年9月中国互联网络信息中心发布《生成式人工智能应用发展报告(2026)》我国智能算力规模达2185 EFLOPS、同比增长177%首个全国产 10 万卡 AI 超集群正式投用生成式 AI 用户突破7 亿、普及率超 50%。同一时期国产 GPU 首次进入 CNCF 国际开源推理生态、燧原推出万卡级超节点。这一串数字指向同一个拐点国产算力已经从「能不能跑」进入「能不能规模化服务」的新阶段。本文拆解十万卡级算力底座的技术构成、国产化落地进展以及这对开发者到底意味着什么。一、2185 EFLOPS 和 7 亿用户两个被低估的数字先说两组容易被当成宏大叙事带过、其实含金量极高的数据。第一组算力规模。《报告》显示截至 2026 年 6 月我国智能算力规模达到2185 EFLOPS百亿亿次浮点运算/秒同比增长 177%。更标志性的是首个全国产 10 万卡 AI 超集群正式投用——芯片、计算、存储、网络、散热等核心软硬件全部采用国产自主可控技术实现了从底层硬件到上层服务的全栈国产化。这标志着国内算力基础设施建设迈入十万卡级部署的新阶段。第二组用户和渗透率。截至 2026 年上半年我国生成式人工智能用户规模突破7 亿普及率超过50%。也就是说每两个网民里就有一个用过生成式 AI。应用场景也明显多元化76.0% 的用户用 AI 做问答47.8% 用 AI 处理图片/视频AI 综合助手和 AI 效率办公的使用次数同比增长均超过 100%。这两组数字合起来看才更有意思算力在快速放大177%说明供给端在猛上产能用户在快速变多破 7 亿说明需求端真的起来了。当需求和产能同时爆炸决定行业发展质量的就不再是谁家模型先发了个评测分数而是底层的算力底座能不能扛得住、铺得开、用得省。这正是本文要聊的主题。二、十万卡集群到底难在哪不是堆卡是系统很多人以为建一个十万卡集群就是把一万张、十万张 GPU 摆一起插上电就行。这是最大的误解。十万卡级集群真正的难点在于系统的可靠性。一个简单的算术就能说明问题如果单卡故障率是某个固定的千分位级别那么在一个 10 万卡的集群里同一时刻发生故障的卡数不是一个可能性而是一个必然数。模型训练又是串行任务——集群里任何一块卡出问题整个训练就可能中断或回滚。所以十万卡集群拼的不是买了多少张卡而是四件事芯片单卡的算力和互联带宽够不够网络能否做到低延迟、高带宽的集群内互联存储KV Cache、Checkpoint、训练数据能不能高效读写散热与供电十万卡的功耗是一个电厂级问题。这四个环节任何一个掉链子集群理论算力再高也白搭。这也解释了为什么国产生态这几年拼命在软件栈 互联 系统上补课而不是只盯着单卡跑分。2.1 国产 GPU 首次入圈CNCF一条值得被看见的生态信号2026 年 9 月初有一条对开发者很关键、但声量不算大的新闻国产 GPU 首次进入 CNCF 国际开源生态。云原生分布式推理开源项目 llm-d基于 vLLM、SGLang 等推理引擎与 Kubernetes 构建已交由 CNCF 托管GitHub 超 4400 Star正式纳入沐曦曦云 C 系列 GPU支持——这是该项目官方加速器名单里第一次出现国产 GPU。沐曦与密瓜智能合作完成适配并打通了从芯片到生产级推理系统的三条开箱即用路径沐曦-llm-d 适配实测性能路径配置实测性能优化基线-单卡Qwen3-14BTP1峰值 Prefill 吞吐 5773 tokens/s优化基线-八卡DeepSeek-R1-Distill-70BTP85468 tokens/sPrefill/Decode 分离Qwen3-14BPrefill1 Decode打通 KV Cache 跨实例传输这条新闻的意义不在于某一个数字而在于一个生态转折芯片能跑和人家的推理引擎与能被国际主流开源调度体系默认支持是两码事。此前这类国际开源项目的默认配置多以国外芯片为假设前提国产 GPU 即便能跑也要用户自己摸索大量隐性适配细节。这次入圈等于把国产芯片接进了全球开发者默认的推理调度体系——从能跑到开箱即用这正是规模化落地最关键的一步。2.2 万卡级超节点从单机堆卡到整柜即节点另一个方向是超节点的出现。以工博会上亮相的燧原云燧 ESL64-O为例它采用正交架构、依托自研加速模组与中兴共同开发主打高密集成、零线缆设计来压缩通信时延、改善散热与信号完整性可支撑万卡级以上规模集群的组网。这类整柜即节点、零线缆互联的设计思路核心目的只有一个把集群内部通信的效率做到极致。因为在大规模训练里卡间通信的瓶颈往往比单卡算力更快到来——谁能把互联这关解决谁才可能把堆起来一万张卡变成真正像一个超大规模计算机在工作。三、国产化接得住吗模型与芯片的适配闭环一万张卡的问题解决之后还得有东西能在上面跑。这几年国产模型和国产芯片的适配进度是这轮算力爆发的一个关键变量。标志性进展是万亿级参数开源大模型的出现。深度求索、月之暗面等本土企业先后发布万亿级参数开源模型全球主流大模型调用榜单上排名靠前的模型里来自中国团队的越来越多而国产模型也在与国产算力芯片加速适配——比如 DeepSeek V4 系列已完成在昇腾、海光、沐曦、摩尔线程等多款国产芯片上的适配与推理部署。这构成一个正向闭环国产芯片提供足够的算力和性价比国产模型在国产芯片上跑得通、跑得稳国产软件栈适配、调度、推理引擎把两者串起来。过去国产算力最尴尬的处境是有卡但没生态、有模型但绑定国外芯片。现在这个循环转起来了规模化落地才有了真正的底座。对整个 AI 供应链而言这也是自主可控从口号变成工程能力的一步。四、对开发者意味着什么三件正在发生的实事聊完底座落到最实际的这一波变化对写代码、调 API、做产品的开发者到底意味着什么第一容忍度在提高——调度、容错这些脏活有人替你扛了。十万卡集群必然面对高频故障所以成套的容错、断点续训、弹性调度能力在成熟。直接把模型部署在大规模集群上比以前必挂的风险要低得多。第二多芯片并行成为常态锁死单一厂商的风险在下降。以前做模型服务绝大多数人默认英伟达全家桶。现在国产 GPU 进入 CNCF、多个芯片厂商组成相互竞争的生态意味着大家可以在算力供给上拥有更多选择和议价空间。这不是喊口号是实际多了几条可选的路。第三模型服务开箱即用的生态在补全。推理引擎适配、云原生调度、开源工具链支持——这些补齐之前国产芯片对很多开发者是只能看、不好用。如今这些基础设施逐步就位国产算力才真正进入可选清单。五、收束算力底座是这一轮 AI 的隐形胜负手回顾全文几个关键事实值得记住智能算力 2185 EFLOPS、同比 177%生成式 AI 用户破 7 亿、普及率超 50%首个全国产 10 万卡 AI 超集群投用全栈国产国产 GPU 首次进入 CNCF 生态从能跑走向开箱即用万亿级国产开源模型与国产芯片加速适配形成正向闭环。这些信号放在一起真正的结论不是国产算力很强而是行业正在从比谁的模型跑分高转向比谁能在真实世界稳定、大规模、低成本地把 AI 跑起来。算力底座就是这场竞赛里最容易被忽略、却最硬核的隐形胜负手。相关资源当算力底座把跑起来的成本打下来对开发者而言真正的杠杆变成了谁能用最省的方式把对的任务调度到对的模型上——这正是多模型统一调度的价值所在。点点词元是面向开发者的多模型统一调度平台已纳管近 100 种主流大模型含 GLM、Qwen、DeepSeek、Kimi、MiniMax 等OpenAI 兼容协议、零迁移接入通过运营商正规渠道提供模型访问。想低成本验证多模型选型方案的个人或团队可查看官方活动页了解新客体验额度。相关资源模型广场近 100 种主流大模型统一接入官方活动与使用说明activity.ldzktoken.com/activity/index.html本文及配套源码github.com/fangzehui/llm-tech-articles本文涉及的算力规模、用户规模、集群与芯片进展等数据截至 2026 年 10 月综合自《生成式人工智能应用发展报告(2026)》、中国互联网络信息中心、快科技、证券之星等公开报道具体技术参数与部署进展以各厂商官方信息为准。大模型与算力领域变化较快文中分析仅基于公开信息整理不代表任何厂商的商业推荐。 
长河君 · 2026/10/14 9:33:10 · 阅读 1.2k 国产算力进入「十万卡」时代：从「能用」到「规模化落地」，底座为什么是关键
要点速览2026年9月中国互联网络信息中心发布《生成式人工智能应用发展报告(2026)》我国智能算力规模达2185 EFLOPS、同比增长177%首个全国产 10 万卡 AI 超集群正式投用生成式 AI 用户突破7 亿、普及率超 50%。同一时期国产 GPU 首次进入 CNCF 国际开源推理生态、燧原推出万卡级超节点。这一串数字指向同一个拐点国产算力已经从「能不能跑」进入「能不能规模化服务」的新阶段。本文拆解十万卡级算力底座的技术构成、国产化落地进展以及这对开发者到底意味着什么。一、2185 EFLOPS 和 7 亿用户两个被低估的数字先说两组容易被当成宏大叙事带过、其实含金量极高的数据。第一组算力规模。《报告》显示截至 2026 年 6 月我国智能算力规模达到2185 EFLOPS百亿亿次浮点运算/秒同比增长 177%。更标志性的是首个全国产 10 万卡 AI 超集群正式投用——芯片、计算、存储、网络、散热等核心软硬件全部采用国产自主可控技术实现了从底层硬件到上层服务的全栈国产化。这标志着国内算力基础设施建设迈入十万卡级部署的新阶段。第二组用户和渗透率。截至 2026 年上半年我国生成式人工智能用户规模突破7 亿普及率超过50%。也就是说每两个网民里就有一个用过生成式 AI。应用场景也明显多元化76.0% 的用户用 AI 做问答47.8% 用 AI 处理图片/视频AI 综合助手和 AI 效率办公的使用次数同比增长均超过 100%。这两组数字合起来看才更有意思算力在快速放大177%说明供给端在猛上产能用户在快速变多破 7 亿说明需求端真的起来了。当需求和产能同时爆炸决定行业发展质量的就不再是谁家模型先发了个评测分数而是底层的算力底座能不能扛得住、铺得开、用得省。这正是本文要聊的主题。二、十万卡集群到底难在哪不是堆卡是系统很多人以为建一个十万卡集群就是把一万张、十万张 GPU 摆一起插上电就行。这是最大的误解。十万卡级集群真正的难点在于系统的可靠性。一个简单的算术就能说明问题如果单卡故障率是某个固定的千分位级别那么在一个 10 万卡的集群里同一时刻发生故障的卡数不是一个可能性而是一个必然数。模型训练又是串行任务——集群里任何一块卡出问题整个训练就可能中断或回滚。所以十万卡集群拼的不是买了多少张卡而是四件事芯片单卡的算力和互联带宽够不够网络能否做到低延迟、高带宽的集群内互联存储KV Cache、Checkpoint、训练数据能不能高效读写散热与供电十万卡的功耗是一个电厂级问题。这四个环节任何一个掉链子集群理论算力再高也白搭。这也解释了为什么国产生态这几年拼命在软件栈 互联 系统上补课而不是只盯着单卡跑分。2.1 国产 GPU 首次入圈CNCF一条值得被看见的生态信号2026 年 9 月初有一条对开发者很关键、但声量不算大的新闻国产 GPU 首次进入 CNCF 国际开源生态。云原生分布式推理开源项目 llm-d基于 vLLM、SGLang 等推理引擎与 Kubernetes 构建已交由 CNCF 托管GitHub 超 4400 Star正式纳入沐曦曦云 C 系列 GPU支持——这是该项目官方加速器名单里第一次出现国产 GPU。沐曦与密瓜智能合作完成适配并打通了从芯片到生产级推理系统的三条开箱即用路径沐曦-llm-d 适配实测性能路径配置实测性能优化基线-单卡Qwen3-14BTP1峰值 Prefill 吞吐 5773 tokens/s优化基线-八卡DeepSeek-R1-Distill-70BTP85468 tokens/sPrefill/Decode 分离Qwen3-14BPrefill1 Decode打通 KV Cache 跨实例传输这条新闻的意义不在于某一个数字而在于一个生态转折芯片能跑和人家的推理引擎与能被国际主流开源调度体系默认支持是两码事。此前这类国际开源项目的默认配置多以国外芯片为假设前提国产 GPU 即便能跑也要用户自己摸索大量隐性适配细节。这次入圈等于把国产芯片接进了全球开发者默认的推理调度体系——从能跑到开箱即用这正是规模化落地最关键的一步。2.2 万卡级超节点从单机堆卡到整柜即节点另一个方向是超节点的出现。以工博会上亮相的燧原云燧 ESL64-O为例它采用正交架构、依托自研加速模组与中兴共同开发主打高密集成、零线缆设计来压缩通信时延、改善散热与信号完整性可支撑万卡级以上规模集群的组网。这类整柜即节点、零线缆互联的设计思路核心目的只有一个把集群内部通信的效率做到极致。因为在大规模训练里卡间通信的瓶颈往往比单卡算力更快到来——谁能把互联这关解决谁才可能把堆起来一万张卡变成真正像一个超大规模计算机在工作。三、国产化接得住吗模型与芯片的适配闭环一万张卡的问题解决之后还得有东西能在上面跑。这几年国产模型和国产芯片的适配进度是这轮算力爆发的一个关键变量。标志性进展是万亿级参数开源大模型的出现。深度求索、月之暗面等本土企业先后发布万亿级参数开源模型全球主流大模型调用榜单上排名靠前的模型里来自中国团队的越来越多而国产模型也在与国产算力芯片加速适配——比如 DeepSeek V4 系列已完成在昇腾、海光、沐曦、摩尔线程等多款国产芯片上的适配与推理部署。这构成一个正向闭环国产芯片提供足够的算力和性价比国产模型在国产芯片上跑得通、跑得稳国产软件栈适配、调度、推理引擎把两者串起来。过去国产算力最尴尬的处境是有卡但没生态、有模型但绑定国外芯片。现在这个循环转起来了规模化落地才有了真正的底座。对整个 AI 供应链而言这也是自主可控从口号变成工程能力的一步。四、对开发者意味着什么三件正在发生的实事聊完底座落到最实际的这一波变化对写代码、调 API、做产品的开发者到底意味着什么第一容忍度在提高——调度、容错这些脏活有人替你扛了。十万卡集群必然面对高频故障所以成套的容错、断点续训、弹性调度能力在成熟。直接把模型部署在大规模集群上比以前必挂的风险要低得多。第二多芯片并行成为常态锁死单一厂商的风险在下降。以前做模型服务绝大多数人默认英伟达全家桶。现在国产 GPU 进入 CNCF、多个芯片厂商组成相互竞争的生态意味着大家可以在算力供给上拥有更多选择和议价空间。这不是喊口号是实际多了几条可选的路。第三模型服务开箱即用的生态在补全。推理引擎适配、云原生调度、开源工具链支持——这些补齐之前国产芯片对很多开发者是只能看、不好用。如今这些基础设施逐步就位国产算力才真正进入可选清单。五、收束算力底座是这一轮 AI 的隐形胜负手回顾全文几个关键事实值得记住智能算力 2185 EFLOPS、同比 177%生成式 AI 用户破 7 亿、普及率超 50%首个全国产 10 万卡 AI 超集群投用全栈国产国产 GPU 首次进入 CNCF 生态从能跑走向开箱即用万亿级国产开源模型与国产芯片加速适配形成正向闭环。这些信号放在一起真正的结论不是国产算力很强而是行业正在从比谁的模型跑分高转向比谁能在真实世界稳定、大规模、低成本地把 AI 跑起来。算力底座就是这场竞赛里最容易被忽略、却最硬核的隐形胜负手。相关资源当算力底座把跑起来的成本打下来对开发者而言真正的杠杆变成了谁能用最省的方式把对的任务调度到对的模型上——这正是多模型统一调度的价值所在。点点词元是面向开发者的多模型统一调度平台已纳管近 100 种主流大模型含 GLM、Qwen、DeepSeek、Kimi、MiniMax 等OpenAI 兼容协议、零迁移接入通过运营商正规渠道提供模型访问。想低成本验证多模型选型方案的个人或团队可查看官方活动页了解新客体验额度。相关资源模型广场近 100 种主流大模型统一接入官方活动与使用说明activity.ldzktoken.com/activity/index.html本文及配套源码github.com/fangzehui/llm-tech-articles本文涉及的算力规模、用户规模、集群与芯片进展等数据截至 2026 年 10 月综合自《生成式人工智能应用发展报告(2026)》、中国互联网络信息中心、快科技、证券之星等公开报道具体技术参数与部署进展以各厂商官方信息为准。大模型与算力领域变化较快文中分析仅基于公开信息整理不代表任何厂商的商业推荐。