国产AI算力芯片这几年的节奏像坐过山车。前两年是发布会密集、纸面参数一个比一个漂亮今年则开始进入真正比拼交付、上量和实际跑模型的阶段。真正做过异构算力选型的人都能感觉到现在正处在一个“份额替代刚开始、供给瓶颈还没解除、生态竞争决定生死”的窗口期。这篇内容我把自己在多个项目里遇到的实际情况、看过的公开资料、以及一些踩过坑的经验一起梳理一下重点拆解国产AI算力芯片的竞争格局、替代逻辑、供给卡点与生态分化趋势。如果你正在做算力基础设施选型、想搞清楚国产芯片的真实水平或者本身就是这个赛道里的从业者应该能从中找到一些参考坐标。我先把话放前面这篇文章不会做任何榜单式的排序也不评价谁“更强”只讨论竞争逻辑和落地过程中真正决定成败的环节。因为在这个领域单纯比峰值算力没什么意义跑不起来、部署不了、生态不接再高的FLOPS都是纸面数字。1. 竞争全貌三类选手三条路线打法完全不同1.1 玩家图谱云计算自研、独立芯片公司与跨界选手竞品分析的第一步永远是把参与者的角色搞清楚。国产AI算力芯片这个赛道从表面看是“大家都做芯片”实际上分成了背景和打法都完全不同的三类。第一类是云厂商自研阵营。这类玩家的特点是芯片主要用于自家云服务的算力底座形成“云芯”联动。自研芯片的核心诉求是控制成本、保证供应链稳定。这类玩家做芯片的路径很长从架构设计到流片到落地都有自家云业务的确定性需求托底所以在上市节奏上更从容但也正因为有内部买单很多时候对外推广的动力没那么强。第二类是独立AI芯片公司。这类公司没有云业务做后盾商业模式就是卖芯片、卖板卡、卖解决方案必须把产品做成开放性平台才能获得第三方客户。它们的压力最大因为客户结构多元化每类客户需要的软件栈和交付出入口都不一样。这类玩家的韧性在于赛道专注架构选择灵活在特定场景的适配速度可能比云厂商更快。第三类是跨界选手包括传统GPU厂商、端侧SoC厂商和自动驾驶芯片团队向云端或训练侧延展。它们已有成熟的图形渲染技术或端侧低功耗设计经验切入AI计算更像是在原有能力基础上扩展市场边界。跨界的难点在于云端AI计算和图形渲染、自动驾驶的负载特征完全不同软件栈的迁移经验不能直接复用容易出现“硬件有了、软件空了”的尴尬。把这三类玩家放在一起看国产AI算力芯片市场竞争的底层逻辑就清楚了它不是单一维度的性能比拼而是资源禀赋、商业模式与软件投入的三重博弈。1.2 技术路线之争通用计算、专用架构与兼容策略技术路线是竞品分析里最需要花时间研究的部分。目前国产AI算力芯片的技术路线大致可以归纳为三种。第一种是通用GPGPU路线。这类芯片在指令集和架构上对标国际主流GPU的并行计算模型保留通用计算能力不只是能跑AI也能做科学计算、图形渲染等通用任务。通用路线的优点在于程序员心智转换成本低、适用面广缺点是功耗和成本相对较高且需要极强的编译器与编程工具链团队做支撑。这类路线适合做全场景平台型产品。第二种是专用NPU路线也就是ASIC化程度很高的架构。专用架构针对矩阵乘加、稀疏计算等AI核心操作做了硬件级优化能效比非常漂亮峰值算力价格也能做到很有竞争力。代价是灵活性差如果模型结构出现新的算子组合硬件适配需要时间。我们可以看到很多国产训练卡和推理卡在Transformer类模型上跑得很快但遇到传统CV模型或者科学计算任务时就不那么顺手。第三种是兼容迁移路线典型特征是芯片本身的指令集不必完全自研重点是通过转译层或兼容层直接运行国际主流生态的既有二进制程序。这种路线的短期获客能力很强因为用户不需要重写代码但长期看会受制于上游生态演进节奏也需要持续投入大量人力去跟进新版本特性。这条路线目前争议最大实际落地效果也最依赖工程细节。1.3 产品矩阵与落地面貌把玩家和技术路线结合起来看目前市场上已经形成了比较清晰的产品矩阵分层。训练侧产品以“大算力大显存高速互联”为核心指标。典型的国产训练卡一般提供32GB到64GB的显存容量单卡算力在几百TFLOPS级别配备GPGPU类或NPU类架构主打千卡级集群训练场景。不过从实际项目反馈看能做到万卡级稳定训练集群的案例还非常少更多是几百到几千卡规模的中型集群。推理侧产品是目前增量最大的赛道。推理卡对算力的绝对值要求没那么苛刻更看重单位算力的价格、单位功耗的吞吐量、模型量化支持度以及长时间稳定运行的可靠性。很多国产推理卡通过高并行度和极低的静态功耗在7B、13B级别的开源模型推理服务上单位成本已经能做到和国际主流GPU接近甚至更优。端侧NPU则聚焦在手机、平板、智能座舱这类功耗受限场景。端侧产品不追求峰值性能而是拼能效比和模型压缩能力。这个赛道玩家很多商业化路径更接近消费电子供应链跟云侧算力市场的逻辑完全不同。我个人的判断是竞品分析如果只看云端训练卡会错失整个市场最活跃的部分。未来两年的主力增量大概率在推理侧和端侧训练市场的格局相对固化。2. 份额替代为什么替代先从推理场景开始而不是训练2.1 存量替代的三大场景切入很多人一提到国产AI算力芯片的份额替代第一反应是大规模训练集群替换国际GPU。但实际观察下来存量替代最顺畅的路径是从三个场景切入的。第一个是互联网大模型的在线推理服务。这类场景以高并发、低延迟、长稳运行为核心指标算力负载的模式高度标准化基本就是Transformer解码过程。负载标准化意味着芯片厂商可以做非常深度的算子优化把性能和能效压榨到极致。我见过某国产推理卡在一个7B开源模型上通过连续批处理优化单卡并发吞吐量已经逼近国际主流卡的水平而单卡采购价格要低不少。第二个是政企与金融的私有化部署。这类客户对数据出域极其敏感规章制度要求核心业务系统内部化部署。在这种场景里本土供应是一个强烈的加分项国产芯片几乎不需要在性能上和竞品做太多纠缠只要满足可用性要求就能很自然地进入供应链。这也是国产AI算力芯片目前出货量最稳定的基本盘之一。第三个是智算中心的新建算力池。新建数据中心在做算力规划时已经不再默认一定选用国际主流GPU而是把本土方案作为常态化选项之一。新建场景没有历史包袱从基础设施的供电、散热到管理调度平台都可以一开始就按异构方案设计替代的隐性成本远低于存量机房改造。替代为什么先发生在这些场景而不是训练集群关键原因是训练场景的生态依赖太重。大模型训练不是单卡跑通就完事它涉及分布式通信、梯度同步、断点续训、混合精度策略等一系列复杂环节。训练框架的每一个底层原语都深度绑定硬件平台的集合通信库迁移成本极高。而推理场景是模型已经训好只做前向计算软件依赖面窄得多算子集合相对固定优化空间和替换可行性都大很多。2.2 单位算力成本的正确测算方式做竞品分析时经常有人拿“单卡价格”说话我觉得这是最容易误导决策的错误维度。单卡价格低但功耗高40%机房配电改造、制冷升级的费用可能远超卡本身省下来的钱。所以真正要看的指标是TCO也就是全生命周期拥有成本。我一般会用下面这个粗略模型来测算TCO等于硬件采购成本加上机房租赁与电力制冷成本加上运维人力成本再加上应用适配与迁移的工程成本最后按三年折旧摊薄得出单位有效算力成本。有效算力不是峰值算力还要乘上一个可用率系数也就是卡在实际业务负载下能发挥出来的性能比。国产芯片的一个现实问题是纸面峰值算力很高但跑真实模型时受限于显存带宽、算子覆盖率和框架适配程度有效算力输出往往达不到纸面标称的六成。如果竞品分析只盯着峰值对比很容易得出不切实际的结论。反过来国际主流GPU因为生态成熟有效算力比普遍较高这就是为什么它们即便单价更贵在部分高端训练场景依然有竞争力。另一种更直观的对比方式是“单卡单日服务成本”。把一个固定规模的推理服务放到一张卡上连续跑一周统计吞吐和功耗然后折算成每百万Token的服务成本。目前在部分开源模型的推理场景里国产卡已经能和国际竞品打平甚至略优。这个维度对商业化落地有直接参考价值也是我建议选型时优先实测的指标。2.3 愿意换卡的底层逻辑供应链确定性与成本结构现在客户愿意把国产芯片纳入采购清单已经不单是“支持本土”的情感因素更多是基于确定性风险管理的理性决策。供应链单一依赖是很多客户的长期忧虑。国际主流GPU要么面临交期波动要么价格策略不稳定对于要求业务连续性的公司来说这种不确定性本身就是风险成本。引入本土供应商、保留多家供应能力正逐渐成为基础设施采购的默认策略。这不是零和博弈而是在关键环节做备份对冲。成本结构方面推理场景的负载一旦稳定下来国产卡的边际成本优势就会显现。国际GPU在算力密度上有优势但国产卡通过更细粒度的功耗管理和更激进的量化策略也能在总拥有成本上追平。尤其是当业务规模达到数百卡以上时电力成本在总成本里的占比迅速上升国产卡在静态功耗上的控制能力就变成了一个强卖点。说到底份额替代不是简单的“谁算力强用谁”而是“谁的确定性更好、综合成本更低、可替代性更强”。国产AI算力芯片目前已经拿到了进场券但能不能在更多场景站稳还要看软硬件一体化的交付能力。3. 供给瓶颈芯片设计出来了交付却卡在产能和材料3.1 先进制程产能与可用工艺路线竞品分析很容易忽略供应链视角但在这两年供给瓶颈恰恰是影响市场份额的最大变量之一。很多芯片公司产品设计得不错发布会也开得很热闹结果客户排单排到半年后项目被迫延期的案例不在少数。先进制程产能紧张是首要卡点。目前全球先进工艺产能本身有限再加上AI芯片普遍需要大尺寸裸片一片晶圆能切出来的合格芯片数量本来就不高。国产算力芯片的设计团队能拿到的产能配额直接决定了年出货量天花板。在可用工艺路线上行业已经在探索多种方案。一个方向是继续使用成熟工艺节点通过加大芯片面积、优化封装来弥补晶体管密度的差距。这个路线的代价是芯片面积变大良率控制和成本压力随之上升。另一个方向是采用演进型先进工艺在部分关键层使用新工艺其他部分沿用成熟工艺做混合集成。还有一个方向是Chiplet把大芯片拆成多个小芯粒分别用最合适的工艺制造再通过先进封装集成。Chiplet是目前讨论度最高的解药但它对封装基板、互连IP和系统级验证能力的要求非常高不是所有团队都有能力吃下来。可以明显感受到的一个趋势是未来的国产AI芯片竞争已经从单芯片设计能力延伸到“设计封装系统协同”的综合工程能力。能把Chiplet方案做得又稳又便宜的公司会拿到供给侧的主动权。3.2 HBM、显存资源与先进封装产能挤兑如果说先进制程是“第一瓶颈”HBM高带宽存储资源就是“第二瓶颈”。AI大模型的训练和推理都非常吃显存带宽没有HBM光靠普通DDR内存是跑不出性能的。HBM的问题是全行业性的。当前HBM产能主要集中在少数几家存储厂商手中分配逻辑也优先照顾核心战略客户。国产芯片设计公司在HBM的获取上面临的是“能拿到多少规格、能拿到多少量”的双重不确定性。部分国产算力芯片因此退而求其次选择大容量的LPDDR或GDDR方案通过更大的显存容量来缓解带宽不足。这在推理场景里是可行的因为推理负载对带宽的敏感度不像训练那么极端但对训练场景来说带宽就是生命线显存带宽不够集群扩展上去反而是浪费功耗。先进封装产能同样紧张。AI芯片普遍采用2.5D封装把计算裸片和多个存储堆叠集成在同一块基板上。这个封装工艺对基板层数、布线密度和散热管理的要求远高于传统封装可用产能本来就不多。再加上大量AI芯片同时争夺这类封装资源排队周期拉得很长。很多芯片设计得好好的最后卡在封装测试环节出不了货。供给瓶颈的复杂之处在于它不是单一环节的问题而是一条链的问题。制程、封装、存储、基板任何一个环节的产能波动都会传导到整机交付。做竞品分析时供应链韧性应该和产品性能放在同等重要的位置因为“买得到”本身就是一种产品力。3.3 设计工具、IP授权与良率爬坡的现实摩擦继续往上游看芯片设计工具和IP授权也是不可忽视的约束。国产AI芯片大多建立在第三方EDA工具链之上工具链对超大规模芯片设计的支撑能力、与特定工艺库的匹配度都会影响设计效率和流片成功率。好在国内EDA工具链这几年有明显进步在一些关键节点已经具备替代能力但距离完全覆盖所有设计环节还有距离。IP授权方面也有分化。部分厂商基于半导体的开放指令集架构做自主设计IP可控性最强另外一些厂商则依赖于商业IP授权授权范围、更新节奏和费用结构都会影响产品迭代速度。架构自研程度高的玩家在长期演进和差异化设计上空间更大但研发投入也更大依赖成熟IP的玩家起步快但面对生态演进时会更被动。良率爬坡是另一个“隐形摩擦”。芯片流片成功不等于量产成功新工艺新架构的良率从60%爬到90%往往需要几个月甚至几个季度。这个过程中每一片晶圆里的坏芯都会变成沉没成本。良率爬坡期间芯片厂商能给客户的交付承诺是有限的先交到谁手里、后交到谁手里直接影响了客户的市场窗口期。我了解到有些客户在选型时专门把“供货节奏与良率爬坡路径”写进技术评分标准而不再只看芯片峰值参数这是很务实的变化。4. 生态竞争硬件只是入场券软件栈才是真正的分水岭4.1 软件栈的四层结构驱动、算子库、编译器与框架插件国产AI算力芯片真正要打硬仗的地方不是流片而是软件生态。我一直觉得AI芯片竞争的上半场是拼架构和制程下半场拼的完全是软件工程能力。软件生态可以拆成四个层次来看。最底层是驱动程序负责硬件资源管理、任务调度和显存管理。第二层是算子库就是预先把通用算子用极致优化的方式实现好比如矩阵乘、卷积、归一化、注意力机制这些。算子库是整个软件栈里最吃人力的部分同一套硬件算子库优化得好不好真实性能可能差出一倍。第三层是编译器和图优化引擎负责把用户的模型计算图做算子融合、内存规划、并行切分自动生成高效的硬件执行计划。最上层是框架对接层也就是对主流深度学习框架的插件支持让用户能无缝把模型跑在芯片上。这四个层次任何一层薄弱都会成为木桶的短板。算子库覆盖不全用户模型编译报错编译器优化能力弱模型跑起来性能拉胯框架适配滞后新模型出来后别人已经跑半个月了你还在等适配版本。做生态没有捷径只能一个算子一个算子地打磨。4.2 迁移成本与三条现实路径对于潜在客户来说选型国产芯片绕不开的问题就是迁移成本现有代码能不能跑、要改多少、性能损耗多少、踩坑多久能爬完。迁移路径大致有三条。第一条是完全原生适配也就是芯片厂商针对主流深度学习框架开发原生插件用户把现有代码基于新框架接口重新安装和适配工作量中等性能表现最优长期维护成本也最低。这是目前最推荐的路径缺点是需要芯片厂商的框架插件成熟度跟上。第二条是使用兼容层通过一个软件中间层把国际主流GPU的编程接口映射到国产芯片上。用户的代码改动量最小基本可以做到“翻译层跑通”但会引入额外的内存拷贝和算子调度开销性能存在折损。第三条是二进制转译直接执行国际主流代码库编译好的产物。迁移成本极低但面临的挑战最大转译层需要逐条指令翻译性能损耗明显而且一旦上游代码库升级转译层也要持续跟进维护成本很高。这三条路径不是互斥的很多芯片厂商的策略是原生适配为主、兼容层兜底、转译层作为短期的获客工具。在实际迁移项目里最有价值的工具是算子覆盖检查报告。只要把客户的目标模型导入芯片厂商提供的自动化分析工具就能一键列出模型中哪些算子原生支持、哪些走软实现、哪些需要人工重写。这个清单直接决定了迁移工期。如果一个国产平台能把主流大模型推理路径上的算子全部原生覆盖迁移成本其实已经很低了。4.3 生态分化的三个标志框架适配速度、开发工具完整度与第三方集成你怎么判断一个国产AI芯片的生态战斗力不用听发布会就看三个具体指标。第一个指标是框架适配速度。一款新的开源大模型发布之后国产芯片平台多久能提供适配版本一周内跟上说明工程化能力强一个月内跟上说明还在被动响应三个月跟不上基本就别指望主流用户选择了。适配速度本质上反映的是编译器团队和算子团队的反应速度这个指标没法靠宣传糊弄。第二个指标是开发工具完整度。能不能做到性能剖析、算子调试、显存追踪这三大件开发工具就是芯片平台的“仪表盘”没有profiler你连性能瓶颈都定位不到。很多国产芯片的软件问题其实不复杂就是“想调优但没工具可看”最后用户只能靠瞎试这种体验很劝退。第三个指标是第三方集成的广泛度。主流推理服务框架、模型并行框架、量化工具链是否原生支持生态不是芯片厂商一家能建成的必须有大量第三方软件工具开发商主动接入。第三方愿意接入的前提是这个平台有足够的装机量装机量又反哺生态丰富度这是一个典型的飞轮效应。生态的分化会越来越严重。有能力的头部玩家会形成“硬件-算子库-编译器-工具链-第三方生态”的正循环投入不足的玩家则只能维持最小可用的软件栈服务少数深度绑定的客户。最后市场上会出现生态热带和生态荒漠并存的格局二八效应会非常明显。5. 格局分化谁会留在牌桌上怎么判断5.1 分野一全栈平台型与单点突破型的分化芯片市场的格局分化最先表现为商业模式的分野。一类厂商走全栈平台路线芯片、板卡、集群方案、框架插件、云服务全链条自己掌控。全栈模式的优点是优化空间大从硬件到软件可以协同设计业务边界可以不断扩展缺点是重资产、重研发需要有极大的客户规模来摊薄成本。另一类厂商走单点突破路线只做一两款明星芯片聚焦一个垂直场景比如只做7B到13B模型的推理卡或者只做端侧NPU。单点突破模式的优点是研发节奏快、投资回收期短能快速在细分市场站稳但长期天花板明显一旦大厂下沉到同一场景生存空间会被挤压。从当前趋势看全栈平台型玩家会进一步强化对关键技术领域的控制力而单点突破型玩家更适合在巨头尚未覆盖的长尾场景里精耕细作。格局分化的结果不是谁消灭谁而是各自找到生态位。5.2 分野二云厂商闭环与独立公司开放的路线之争另一个层面的分化是云厂商和独立芯片公司的路线差异。云厂商自研芯片天然走向闭环芯片优化目标就是自家云上的代表性业务对外卖不卖并不影响内部价值兑现。这个路线的好处是始终有业务实弹演练产品迭代很快但对外吸引力有限因为它的软件栈和云服务深度绑定第三方很难拿出去独立部署。独立芯片公司则必须走开放路线争取一切可能的客户和集成伙伴。开放意味着要适配多种开源框架、支持多种部署形态、兼容多种上层管理平台。独立公司的产品从第一天起就要做得“文档友好、工具齐全”否则客户连试用的动力都没有。两条路线各有代价。云厂商闭环路线容易资源集中、单品做强但可能陷入自娱自乐对外影响力受限于云平台覆盖范围独立公司开放路线能争取更大市场空间但面临的竞争维度更多生态合作方的能力也参差不齐。未来两三年的竞争里很难说哪条路线必赢更可能的走向是云厂商垄断云内底座独立公司占据云外和私有化市场。5.3 分野三训练向头部集中推理在边缘碎片化从算力负载的视角看训练和推理两个市场正在出现完全不同的格局演替。训练市场正在加速向头部集中。原因是训练负载高度依赖集群通信能力千卡万卡集群的稳定性、集合通信效率、断点续训恢复能力全栈平台型头部玩家才有足够的工程资源去打磨小厂商很难复制这种规模的研发投入。未来能在大规模训练市场持续交付的国产玩家可能不超过两三家。推理市场则完全是另一番景象。推理负载的形态极其碎片化有高并发在线服务、有低延迟边缘盒子、有大规模离线批处理、有端侧实时推理。每一种负载对芯片的功耗、并发、成本、体积的要求都不相同单一产品很难通吃全局。这意味着推理市场会容纳更多差异化选手从高能效比推理卡到端侧NPU都有各自的空间。训练集中化、推理碎片化这个分化格局会直接影响投资者的判断和创业公司入场时的产品定位。进训练赛道要找大腿靠进推理赛道则要找到足够细分的场景切口。5.4 判断格局的指标体系如何系统评估一个国产AI芯片玩家最后我把这些年做竞品分析时沉淀下来的一套评估体系整理出来供需要的朋友参考。我一般从五个维度来给AI芯片玩家打分。第一是产品力看峰值算力、实际算力输出比、显存容量与带宽、互联能力、能效比。第二是供给力看产能配额、封装资源、供货周期、良率爬坡曲线这个维度在现在的重要性比前几年大大提高。第三是生态力看算子覆盖率、框架适配速度、开发工具完整度、第三方集成数量。第四是商业力看典型客户案例、复购率、交付服务能力、价格策略。第五是演进力看下一代架构的路线图清晰度、研发投入占比、生态扩张的可持续性。真正重要的不是单个维度的绝对分而是五维的均衡程度。很多芯片在产品力上很强但生态力严重掉队这类玩家大概率会在格局分化中被边缘化反过来生态力优秀但供给力跟不上也可能因为大量欠单被拖垮。另一个值得关注的信号是客户结构。一个芯片玩家的前景看它的客户名单集中度。如果前几个大客户贡献了绝大部分收入说明它的市场化程度还不够如果客户结构分散、复购率高说明产品在真实业务里经受住了考验。客户结构比任何PR口径都诚实。最后说一点我做选型这些年的体会每次做完一轮国产AI算力芯片的评估我都会提醒自己一句话纸面参数是好看还是难看和落地业务能不能跑是完全两码事。我踩过最多的坑不是芯片性能不行而是软件栈没有想象中成熟。模型迁移过程里一个算子的适配问题可能就卡住一周一个分布式通信库的隐性bug可能让整个集群训练反复中断。所以在选型阶段先找供应商要真卡拿自己的模型跑一遍算子覆盖检查清单比看任何发布会都实在。国产AI算力芯片的机会窗口正在打开但它不是一个靠发布会PPT就能赢的赛道它拼的是持续的资金、工程人才的密度以及一点点耐心。 
长河君 · 2026/10/22 8:57:32 · 阅读 1.2k 国产AI算力芯片竞争格局与生态分化：替代逻辑、供给瓶颈与落地实践
国产AI算力芯片这几年的节奏像坐过山车。前两年是发布会密集、纸面参数一个比一个漂亮今年则开始进入真正比拼交付、上量和实际跑模型的阶段。真正做过异构算力选型的人都能感觉到现在正处在一个“份额替代刚开始、供给瓶颈还没解除、生态竞争决定生死”的窗口期。这篇内容我把自己在多个项目里遇到的实际情况、看过的公开资料、以及一些踩过坑的经验一起梳理一下重点拆解国产AI算力芯片的竞争格局、替代逻辑、供给卡点与生态分化趋势。如果你正在做算力基础设施选型、想搞清楚国产芯片的真实水平或者本身就是这个赛道里的从业者应该能从中找到一些参考坐标。我先把话放前面这篇文章不会做任何榜单式的排序也不评价谁“更强”只讨论竞争逻辑和落地过程中真正决定成败的环节。因为在这个领域单纯比峰值算力没什么意义跑不起来、部署不了、生态不接再高的FLOPS都是纸面数字。1. 竞争全貌三类选手三条路线打法完全不同1.1 玩家图谱云计算自研、独立芯片公司与跨界选手竞品分析的第一步永远是把参与者的角色搞清楚。国产AI算力芯片这个赛道从表面看是“大家都做芯片”实际上分成了背景和打法都完全不同的三类。第一类是云厂商自研阵营。这类玩家的特点是芯片主要用于自家云服务的算力底座形成“云芯”联动。自研芯片的核心诉求是控制成本、保证供应链稳定。这类玩家做芯片的路径很长从架构设计到流片到落地都有自家云业务的确定性需求托底所以在上市节奏上更从容但也正因为有内部买单很多时候对外推广的动力没那么强。第二类是独立AI芯片公司。这类公司没有云业务做后盾商业模式就是卖芯片、卖板卡、卖解决方案必须把产品做成开放性平台才能获得第三方客户。它们的压力最大因为客户结构多元化每类客户需要的软件栈和交付出入口都不一样。这类玩家的韧性在于赛道专注架构选择灵活在特定场景的适配速度可能比云厂商更快。第三类是跨界选手包括传统GPU厂商、端侧SoC厂商和自动驾驶芯片团队向云端或训练侧延展。它们已有成熟的图形渲染技术或端侧低功耗设计经验切入AI计算更像是在原有能力基础上扩展市场边界。跨界的难点在于云端AI计算和图形渲染、自动驾驶的负载特征完全不同软件栈的迁移经验不能直接复用容易出现“硬件有了、软件空了”的尴尬。把这三类玩家放在一起看国产AI算力芯片市场竞争的底层逻辑就清楚了它不是单一维度的性能比拼而是资源禀赋、商业模式与软件投入的三重博弈。1.2 技术路线之争通用计算、专用架构与兼容策略技术路线是竞品分析里最需要花时间研究的部分。目前国产AI算力芯片的技术路线大致可以归纳为三种。第一种是通用GPGPU路线。这类芯片在指令集和架构上对标国际主流GPU的并行计算模型保留通用计算能力不只是能跑AI也能做科学计算、图形渲染等通用任务。通用路线的优点在于程序员心智转换成本低、适用面广缺点是功耗和成本相对较高且需要极强的编译器与编程工具链团队做支撑。这类路线适合做全场景平台型产品。第二种是专用NPU路线也就是ASIC化程度很高的架构。专用架构针对矩阵乘加、稀疏计算等AI核心操作做了硬件级优化能效比非常漂亮峰值算力价格也能做到很有竞争力。代价是灵活性差如果模型结构出现新的算子组合硬件适配需要时间。我们可以看到很多国产训练卡和推理卡在Transformer类模型上跑得很快但遇到传统CV模型或者科学计算任务时就不那么顺手。第三种是兼容迁移路线典型特征是芯片本身的指令集不必完全自研重点是通过转译层或兼容层直接运行国际主流生态的既有二进制程序。这种路线的短期获客能力很强因为用户不需要重写代码但长期看会受制于上游生态演进节奏也需要持续投入大量人力去跟进新版本特性。这条路线目前争议最大实际落地效果也最依赖工程细节。1.3 产品矩阵与落地面貌把玩家和技术路线结合起来看目前市场上已经形成了比较清晰的产品矩阵分层。训练侧产品以“大算力大显存高速互联”为核心指标。典型的国产训练卡一般提供32GB到64GB的显存容量单卡算力在几百TFLOPS级别配备GPGPU类或NPU类架构主打千卡级集群训练场景。不过从实际项目反馈看能做到万卡级稳定训练集群的案例还非常少更多是几百到几千卡规模的中型集群。推理侧产品是目前增量最大的赛道。推理卡对算力的绝对值要求没那么苛刻更看重单位算力的价格、单位功耗的吞吐量、模型量化支持度以及长时间稳定运行的可靠性。很多国产推理卡通过高并行度和极低的静态功耗在7B、13B级别的开源模型推理服务上单位成本已经能做到和国际主流GPU接近甚至更优。端侧NPU则聚焦在手机、平板、智能座舱这类功耗受限场景。端侧产品不追求峰值性能而是拼能效比和模型压缩能力。这个赛道玩家很多商业化路径更接近消费电子供应链跟云侧算力市场的逻辑完全不同。我个人的判断是竞品分析如果只看云端训练卡会错失整个市场最活跃的部分。未来两年的主力增量大概率在推理侧和端侧训练市场的格局相对固化。2. 份额替代为什么替代先从推理场景开始而不是训练2.1 存量替代的三大场景切入很多人一提到国产AI算力芯片的份额替代第一反应是大规模训练集群替换国际GPU。但实际观察下来存量替代最顺畅的路径是从三个场景切入的。第一个是互联网大模型的在线推理服务。这类场景以高并发、低延迟、长稳运行为核心指标算力负载的模式高度标准化基本就是Transformer解码过程。负载标准化意味着芯片厂商可以做非常深度的算子优化把性能和能效压榨到极致。我见过某国产推理卡在一个7B开源模型上通过连续批处理优化单卡并发吞吐量已经逼近国际主流卡的水平而单卡采购价格要低不少。第二个是政企与金融的私有化部署。这类客户对数据出域极其敏感规章制度要求核心业务系统内部化部署。在这种场景里本土供应是一个强烈的加分项国产芯片几乎不需要在性能上和竞品做太多纠缠只要满足可用性要求就能很自然地进入供应链。这也是国产AI算力芯片目前出货量最稳定的基本盘之一。第三个是智算中心的新建算力池。新建数据中心在做算力规划时已经不再默认一定选用国际主流GPU而是把本土方案作为常态化选项之一。新建场景没有历史包袱从基础设施的供电、散热到管理调度平台都可以一开始就按异构方案设计替代的隐性成本远低于存量机房改造。替代为什么先发生在这些场景而不是训练集群关键原因是训练场景的生态依赖太重。大模型训练不是单卡跑通就完事它涉及分布式通信、梯度同步、断点续训、混合精度策略等一系列复杂环节。训练框架的每一个底层原语都深度绑定硬件平台的集合通信库迁移成本极高。而推理场景是模型已经训好只做前向计算软件依赖面窄得多算子集合相对固定优化空间和替换可行性都大很多。2.2 单位算力成本的正确测算方式做竞品分析时经常有人拿“单卡价格”说话我觉得这是最容易误导决策的错误维度。单卡价格低但功耗高40%机房配电改造、制冷升级的费用可能远超卡本身省下来的钱。所以真正要看的指标是TCO也就是全生命周期拥有成本。我一般会用下面这个粗略模型来测算TCO等于硬件采购成本加上机房租赁与电力制冷成本加上运维人力成本再加上应用适配与迁移的工程成本最后按三年折旧摊薄得出单位有效算力成本。有效算力不是峰值算力还要乘上一个可用率系数也就是卡在实际业务负载下能发挥出来的性能比。国产芯片的一个现实问题是纸面峰值算力很高但跑真实模型时受限于显存带宽、算子覆盖率和框架适配程度有效算力输出往往达不到纸面标称的六成。如果竞品分析只盯着峰值对比很容易得出不切实际的结论。反过来国际主流GPU因为生态成熟有效算力比普遍较高这就是为什么它们即便单价更贵在部分高端训练场景依然有竞争力。另一种更直观的对比方式是“单卡单日服务成本”。把一个固定规模的推理服务放到一张卡上连续跑一周统计吞吐和功耗然后折算成每百万Token的服务成本。目前在部分开源模型的推理场景里国产卡已经能和国际竞品打平甚至略优。这个维度对商业化落地有直接参考价值也是我建议选型时优先实测的指标。2.3 愿意换卡的底层逻辑供应链确定性与成本结构现在客户愿意把国产芯片纳入采购清单已经不单是“支持本土”的情感因素更多是基于确定性风险管理的理性决策。供应链单一依赖是很多客户的长期忧虑。国际主流GPU要么面临交期波动要么价格策略不稳定对于要求业务连续性的公司来说这种不确定性本身就是风险成本。引入本土供应商、保留多家供应能力正逐渐成为基础设施采购的默认策略。这不是零和博弈而是在关键环节做备份对冲。成本结构方面推理场景的负载一旦稳定下来国产卡的边际成本优势就会显现。国际GPU在算力密度上有优势但国产卡通过更细粒度的功耗管理和更激进的量化策略也能在总拥有成本上追平。尤其是当业务规模达到数百卡以上时电力成本在总成本里的占比迅速上升国产卡在静态功耗上的控制能力就变成了一个强卖点。说到底份额替代不是简单的“谁算力强用谁”而是“谁的确定性更好、综合成本更低、可替代性更强”。国产AI算力芯片目前已经拿到了进场券但能不能在更多场景站稳还要看软硬件一体化的交付能力。3. 供给瓶颈芯片设计出来了交付却卡在产能和材料3.1 先进制程产能与可用工艺路线竞品分析很容易忽略供应链视角但在这两年供给瓶颈恰恰是影响市场份额的最大变量之一。很多芯片公司产品设计得不错发布会也开得很热闹结果客户排单排到半年后项目被迫延期的案例不在少数。先进制程产能紧张是首要卡点。目前全球先进工艺产能本身有限再加上AI芯片普遍需要大尺寸裸片一片晶圆能切出来的合格芯片数量本来就不高。国产算力芯片的设计团队能拿到的产能配额直接决定了年出货量天花板。在可用工艺路线上行业已经在探索多种方案。一个方向是继续使用成熟工艺节点通过加大芯片面积、优化封装来弥补晶体管密度的差距。这个路线的代价是芯片面积变大良率控制和成本压力随之上升。另一个方向是采用演进型先进工艺在部分关键层使用新工艺其他部分沿用成熟工艺做混合集成。还有一个方向是Chiplet把大芯片拆成多个小芯粒分别用最合适的工艺制造再通过先进封装集成。Chiplet是目前讨论度最高的解药但它对封装基板、互连IP和系统级验证能力的要求非常高不是所有团队都有能力吃下来。可以明显感受到的一个趋势是未来的国产AI芯片竞争已经从单芯片设计能力延伸到“设计封装系统协同”的综合工程能力。能把Chiplet方案做得又稳又便宜的公司会拿到供给侧的主动权。3.2 HBM、显存资源与先进封装产能挤兑如果说先进制程是“第一瓶颈”HBM高带宽存储资源就是“第二瓶颈”。AI大模型的训练和推理都非常吃显存带宽没有HBM光靠普通DDR内存是跑不出性能的。HBM的问题是全行业性的。当前HBM产能主要集中在少数几家存储厂商手中分配逻辑也优先照顾核心战略客户。国产芯片设计公司在HBM的获取上面临的是“能拿到多少规格、能拿到多少量”的双重不确定性。部分国产算力芯片因此退而求其次选择大容量的LPDDR或GDDR方案通过更大的显存容量来缓解带宽不足。这在推理场景里是可行的因为推理负载对带宽的敏感度不像训练那么极端但对训练场景来说带宽就是生命线显存带宽不够集群扩展上去反而是浪费功耗。先进封装产能同样紧张。AI芯片普遍采用2.5D封装把计算裸片和多个存储堆叠集成在同一块基板上。这个封装工艺对基板层数、布线密度和散热管理的要求远高于传统封装可用产能本来就不多。再加上大量AI芯片同时争夺这类封装资源排队周期拉得很长。很多芯片设计得好好的最后卡在封装测试环节出不了货。供给瓶颈的复杂之处在于它不是单一环节的问题而是一条链的问题。制程、封装、存储、基板任何一个环节的产能波动都会传导到整机交付。做竞品分析时供应链韧性应该和产品性能放在同等重要的位置因为“买得到”本身就是一种产品力。3.3 设计工具、IP授权与良率爬坡的现实摩擦继续往上游看芯片设计工具和IP授权也是不可忽视的约束。国产AI芯片大多建立在第三方EDA工具链之上工具链对超大规模芯片设计的支撑能力、与特定工艺库的匹配度都会影响设计效率和流片成功率。好在国内EDA工具链这几年有明显进步在一些关键节点已经具备替代能力但距离完全覆盖所有设计环节还有距离。IP授权方面也有分化。部分厂商基于半导体的开放指令集架构做自主设计IP可控性最强另外一些厂商则依赖于商业IP授权授权范围、更新节奏和费用结构都会影响产品迭代速度。架构自研程度高的玩家在长期演进和差异化设计上空间更大但研发投入也更大依赖成熟IP的玩家起步快但面对生态演进时会更被动。良率爬坡是另一个“隐形摩擦”。芯片流片成功不等于量产成功新工艺新架构的良率从60%爬到90%往往需要几个月甚至几个季度。这个过程中每一片晶圆里的坏芯都会变成沉没成本。良率爬坡期间芯片厂商能给客户的交付承诺是有限的先交到谁手里、后交到谁手里直接影响了客户的市场窗口期。我了解到有些客户在选型时专门把“供货节奏与良率爬坡路径”写进技术评分标准而不再只看芯片峰值参数这是很务实的变化。4. 生态竞争硬件只是入场券软件栈才是真正的分水岭4.1 软件栈的四层结构驱动、算子库、编译器与框架插件国产AI算力芯片真正要打硬仗的地方不是流片而是软件生态。我一直觉得AI芯片竞争的上半场是拼架构和制程下半场拼的完全是软件工程能力。软件生态可以拆成四个层次来看。最底层是驱动程序负责硬件资源管理、任务调度和显存管理。第二层是算子库就是预先把通用算子用极致优化的方式实现好比如矩阵乘、卷积、归一化、注意力机制这些。算子库是整个软件栈里最吃人力的部分同一套硬件算子库优化得好不好真实性能可能差出一倍。第三层是编译器和图优化引擎负责把用户的模型计算图做算子融合、内存规划、并行切分自动生成高效的硬件执行计划。最上层是框架对接层也就是对主流深度学习框架的插件支持让用户能无缝把模型跑在芯片上。这四个层次任何一层薄弱都会成为木桶的短板。算子库覆盖不全用户模型编译报错编译器优化能力弱模型跑起来性能拉胯框架适配滞后新模型出来后别人已经跑半个月了你还在等适配版本。做生态没有捷径只能一个算子一个算子地打磨。4.2 迁移成本与三条现实路径对于潜在客户来说选型国产芯片绕不开的问题就是迁移成本现有代码能不能跑、要改多少、性能损耗多少、踩坑多久能爬完。迁移路径大致有三条。第一条是完全原生适配也就是芯片厂商针对主流深度学习框架开发原生插件用户把现有代码基于新框架接口重新安装和适配工作量中等性能表现最优长期维护成本也最低。这是目前最推荐的路径缺点是需要芯片厂商的框架插件成熟度跟上。第二条是使用兼容层通过一个软件中间层把国际主流GPU的编程接口映射到国产芯片上。用户的代码改动量最小基本可以做到“翻译层跑通”但会引入额外的内存拷贝和算子调度开销性能存在折损。第三条是二进制转译直接执行国际主流代码库编译好的产物。迁移成本极低但面临的挑战最大转译层需要逐条指令翻译性能损耗明显而且一旦上游代码库升级转译层也要持续跟进维护成本很高。这三条路径不是互斥的很多芯片厂商的策略是原生适配为主、兼容层兜底、转译层作为短期的获客工具。在实际迁移项目里最有价值的工具是算子覆盖检查报告。只要把客户的目标模型导入芯片厂商提供的自动化分析工具就能一键列出模型中哪些算子原生支持、哪些走软实现、哪些需要人工重写。这个清单直接决定了迁移工期。如果一个国产平台能把主流大模型推理路径上的算子全部原生覆盖迁移成本其实已经很低了。4.3 生态分化的三个标志框架适配速度、开发工具完整度与第三方集成你怎么判断一个国产AI芯片的生态战斗力不用听发布会就看三个具体指标。第一个指标是框架适配速度。一款新的开源大模型发布之后国产芯片平台多久能提供适配版本一周内跟上说明工程化能力强一个月内跟上说明还在被动响应三个月跟不上基本就别指望主流用户选择了。适配速度本质上反映的是编译器团队和算子团队的反应速度这个指标没法靠宣传糊弄。第二个指标是开发工具完整度。能不能做到性能剖析、算子调试、显存追踪这三大件开发工具就是芯片平台的“仪表盘”没有profiler你连性能瓶颈都定位不到。很多国产芯片的软件问题其实不复杂就是“想调优但没工具可看”最后用户只能靠瞎试这种体验很劝退。第三个指标是第三方集成的广泛度。主流推理服务框架、模型并行框架、量化工具链是否原生支持生态不是芯片厂商一家能建成的必须有大量第三方软件工具开发商主动接入。第三方愿意接入的前提是这个平台有足够的装机量装机量又反哺生态丰富度这是一个典型的飞轮效应。生态的分化会越来越严重。有能力的头部玩家会形成“硬件-算子库-编译器-工具链-第三方生态”的正循环投入不足的玩家则只能维持最小可用的软件栈服务少数深度绑定的客户。最后市场上会出现生态热带和生态荒漠并存的格局二八效应会非常明显。5. 格局分化谁会留在牌桌上怎么判断5.1 分野一全栈平台型与单点突破型的分化芯片市场的格局分化最先表现为商业模式的分野。一类厂商走全栈平台路线芯片、板卡、集群方案、框架插件、云服务全链条自己掌控。全栈模式的优点是优化空间大从硬件到软件可以协同设计业务边界可以不断扩展缺点是重资产、重研发需要有极大的客户规模来摊薄成本。另一类厂商走单点突破路线只做一两款明星芯片聚焦一个垂直场景比如只做7B到13B模型的推理卡或者只做端侧NPU。单点突破模式的优点是研发节奏快、投资回收期短能快速在细分市场站稳但长期天花板明显一旦大厂下沉到同一场景生存空间会被挤压。从当前趋势看全栈平台型玩家会进一步强化对关键技术领域的控制力而单点突破型玩家更适合在巨头尚未覆盖的长尾场景里精耕细作。格局分化的结果不是谁消灭谁而是各自找到生态位。5.2 分野二云厂商闭环与独立公司开放的路线之争另一个层面的分化是云厂商和独立芯片公司的路线差异。云厂商自研芯片天然走向闭环芯片优化目标就是自家云上的代表性业务对外卖不卖并不影响内部价值兑现。这个路线的好处是始终有业务实弹演练产品迭代很快但对外吸引力有限因为它的软件栈和云服务深度绑定第三方很难拿出去独立部署。独立芯片公司则必须走开放路线争取一切可能的客户和集成伙伴。开放意味着要适配多种开源框架、支持多种部署形态、兼容多种上层管理平台。独立公司的产品从第一天起就要做得“文档友好、工具齐全”否则客户连试用的动力都没有。两条路线各有代价。云厂商闭环路线容易资源集中、单品做强但可能陷入自娱自乐对外影响力受限于云平台覆盖范围独立公司开放路线能争取更大市场空间但面临的竞争维度更多生态合作方的能力也参差不齐。未来两三年的竞争里很难说哪条路线必赢更可能的走向是云厂商垄断云内底座独立公司占据云外和私有化市场。5.3 分野三训练向头部集中推理在边缘碎片化从算力负载的视角看训练和推理两个市场正在出现完全不同的格局演替。训练市场正在加速向头部集中。原因是训练负载高度依赖集群通信能力千卡万卡集群的稳定性、集合通信效率、断点续训恢复能力全栈平台型头部玩家才有足够的工程资源去打磨小厂商很难复制这种规模的研发投入。未来能在大规模训练市场持续交付的国产玩家可能不超过两三家。推理市场则完全是另一番景象。推理负载的形态极其碎片化有高并发在线服务、有低延迟边缘盒子、有大规模离线批处理、有端侧实时推理。每一种负载对芯片的功耗、并发、成本、体积的要求都不相同单一产品很难通吃全局。这意味着推理市场会容纳更多差异化选手从高能效比推理卡到端侧NPU都有各自的空间。训练集中化、推理碎片化这个分化格局会直接影响投资者的判断和创业公司入场时的产品定位。进训练赛道要找大腿靠进推理赛道则要找到足够细分的场景切口。5.4 判断格局的指标体系如何系统评估一个国产AI芯片玩家最后我把这些年做竞品分析时沉淀下来的一套评估体系整理出来供需要的朋友参考。我一般从五个维度来给AI芯片玩家打分。第一是产品力看峰值算力、实际算力输出比、显存容量与带宽、互联能力、能效比。第二是供给力看产能配额、封装资源、供货周期、良率爬坡曲线这个维度在现在的重要性比前几年大大提高。第三是生态力看算子覆盖率、框架适配速度、开发工具完整度、第三方集成数量。第四是商业力看典型客户案例、复购率、交付服务能力、价格策略。第五是演进力看下一代架构的路线图清晰度、研发投入占比、生态扩张的可持续性。真正重要的不是单个维度的绝对分而是五维的均衡程度。很多芯片在产品力上很强但生态力严重掉队这类玩家大概率会在格局分化中被边缘化反过来生态力优秀但供给力跟不上也可能因为大量欠单被拖垮。另一个值得关注的信号是客户结构。一个芯片玩家的前景看它的客户名单集中度。如果前几个大客户贡献了绝大部分收入说明它的市场化程度还不够如果客户结构分散、复购率高说明产品在真实业务里经受住了考验。客户结构比任何PR口径都诚实。最后说一点我做选型这些年的体会每次做完一轮国产AI算力芯片的评估我都会提醒自己一句话纸面参数是好看还是难看和落地业务能不能跑是完全两码事。我踩过最多的坑不是芯片性能不行而是软件栈没有想象中成熟。模型迁移过程里一个算子的适配问题可能就卡住一周一个分布式通信库的隐性bug可能让整个集群训练反复中断。所以在选型阶段先找供应商要真卡拿自己的模型跑一遍算子覆盖检查清单比看任何发布会都实在。国产AI算力芯片的机会窗口正在打开但它不是一个靠发布会PPT就能赢的赛道它拼的是持续的资金、工程人才的密度以及一点点耐心。