过去几年聊AI我们都是盯着GPU但现在Agentic AI要把CPU重新拉回焦点从GPU配套变成AI智能体的调度中枢。为什么这么说呢先看三个熟悉的名词Agentic AI/聊天式AI/AI智能体。聊天式AI是一次性问答就像搞咨询的你问它答聊完就结束主要靠GPU/TPU跑推理。AI智能体AI agent是具体干活的实体能规划步骤、调用工具、访问网站、写代码、做任务像极了搞苦工的。但Agentic AI像一个系统让AI既当咨询又做苦工。所以它不再是拿一个提示词、返回一个答案而是代理生成子代理、调用API、访问企业应用和数据、编写和运行代码在长达几天、几周甚至几个月的会话中保持上下文通常包含多个AI智能体苦工一起配合干活——所有这些都需要CPU带来了市场对CPU的需求变化。第一CPU在整机里的配比上升。传统AI服务器常见配比是1:4到1:8也就是一块CPU配四到八块GPU。Agentic AI起来后比例可能要到1:1或者1:2变成一块CPU只配一到两块GPU。第二出货量上升。2026年服务器CPU出货量同比增长31%2027年由于Agentic AI渗透率提升预计增速进一步扩大到40%以上CPU交货周期也从常规16-20周拉长到25-30周。第三核数、内存带宽和状态保持能力成了硬指标。英特尔至强6做到单路最高288个能效核配合576MB末级缓存现场演示中一颗处理器跑过1024个智能体并发而按2核4GB或1核2GB的常规云配置部署时生产级密度约为400至500个。Arm首款自研AGI CPU最多136个Neoverse V3核心每核专属2MB L2缓存把内存与I/O集成在同一芯片上12通道DDR5-8800 满配时总带宽约800GB/s量级折合每核平均约6GB/s同时可协调几千个AI智能体。英伟达Vera做到88个Olympus核心LPDDR5X内存聚合带宽1.2TB/s单核带宽14GB/s一个机架绑定256颗Vera可以同时维持超过22500个AI智能体并发环境。第四隔离和安全从附加项变成必选项。隔离和安全以前是软件层或安全团队事后补的事现在变成CPU必须原生扛起来的能力而隔离本身要吃CPU资源所以它直接推高了CPU需求。谷歌云的GKE Agent Sandbox基于gVisor隔离技术支持每集群每秒启动300个沙箱。GKE Agent Sandbox在Axion处理器上运行时性价比比其他超大规模云平台高出最多30%。微虚拟机和代理网关正在成为CPU侧的基础能力而不是安全团队事后的补丁。GPU时代CPU的任务是别拖后腿。Agentic AI时代CPU要做的是拆解目标、调度AI智能体、保持状态、隔离边界、衔接存储和网络。犹如一个调度中心核心是编排调度同时也要承担数据准备、语义搜索和向量数据库处理等具体工作。三家主要阵营瞄准的正是这个新角色。英特尔用至强6的288个能效核说话首款Intel 18A数据中心CPU目标是在固定功耗和机架空间里塞进尽可能多的并发AI智能体把代理密度做成可量化指标。AMD更直接核心密度和多线程能力让单台设备同时运行多个AI智能体EPYC系列在AI智能体工作流场景里匹配的正是这种“数量多、每个不重”的并发结构。Arm阵营是变化最剧烈的一条线AGI CPU是Arm成立以来首款自研量产芯片专为AI智能体工具调用、工作流协调和规划推理设计。此外谷歌 Axion 和英伟达 Vera 则分别从主控 CPU 和状态保持切入。不过对于我们边缘AI来说真正值得注意的是云端CPU的角色变化在边缘侧以同构的方式发生了。Agentic AI天然有下沉到边缘的动力一个手机AI智能体要看见屏幕、点击按钮一个机器人AI智能体要感知障碍、执行动作这些环节如果绕道云端在延迟和隐私上都无法接受。所以不是全部下沉而是形成端云分工。端侧负责感知、执行与脱敏云端负责意图规划与状态管理。这意味着边缘CPU不能只当算力配套而要在本地承担感知接入、实时执行和隔离脱敏成为智能体在本地运行的底座——这与云端CPU的调度中枢角色同构。而这种端云分工的底层逻辑不只是算力大小而是延迟、隐私与安全边界敏感信息理想的设计是从源头就不采集而不是采下来再脱敏AI智能体的一部分必须永远留在本地端云分离也避免单点故障。当然啦同构不等于同量级。边缘CPU的约束比云端紧张得多功耗从千瓦级降到瓦级内存从TB级降到GB级但“CPU负责让一堆AI智能体持续地、安全地、有条不紊地干活”这事没变。场景不同职责也有别在感知型和物理执行型Agent中边缘CPU还要额外承担感知接入、实时执行和安全脱敏——它是AI智能体与物理世界之间的那道安全门而在纯软件Agent如数据分析、API编排中这道门不是必需CPU更多是本地运行与隔离的基础保障。一些公司的产品动态已经在对齐“边缘 CPU承载智能体”这个更宽的定位了既有面向本地智能体承载的也有面向物理执行场景的。此芯P1是一颗6nm、12核CPU的智能体SoC原生支持64GB内存可稳定支持13B—35B生产级AI智能体部署。AMD的Ryzen AI Max系列统一内存覆盖128GB和192GB分别面向200B和 300B参数模型的本地运行。英伟达Jetson AGX Thor则把Arm CPU、Blackwell GPU和128GB统一内存打包面向需要持续感知、推理和行动的物理 AI 智能体场景。端侧的安全隔离也在从软件层向硬件层走。AgenTEE 把AI智能体运行时、推理引擎和第三方应用放进独立认证的机密虚拟机基于 Arm CCA在边缘设备上强制执行隔离。Tracekit Box让每个AI智能体任务运行在独立的Firecracker microVM里没有网卡唯一的出口是宿主机上经过签名和管控的通道。这和云端用microVM把几百个AI智能体隔开是同一套思路只是尺度不同。所以Agentic AI带来的不是又一轮算力堆叠而是CPU角色的重新估值。接下来CPU的竞争也要从峰值算力转向并发密度、状态保持和隔离边界这些更接近调度的指标了吧。说明1.文章参考公开报道并借助AI工具进行整理和分析如有不妥之处欢迎指正。2.部分市场数据基于行业估算、发布以及官方报道具体精确数据请以权威机构为准。3.欢迎长期追踪边缘AI的朋友一起探讨。 
长河君 · 2026/11/3 2:53:51 · 阅读 1.2k CPU与GPU的配比变化
过去几年聊AI我们都是盯着GPU但现在Agentic AI要把CPU重新拉回焦点从GPU配套变成AI智能体的调度中枢。为什么这么说呢先看三个熟悉的名词Agentic AI/聊天式AI/AI智能体。聊天式AI是一次性问答就像搞咨询的你问它答聊完就结束主要靠GPU/TPU跑推理。AI智能体AI agent是具体干活的实体能规划步骤、调用工具、访问网站、写代码、做任务像极了搞苦工的。但Agentic AI像一个系统让AI既当咨询又做苦工。所以它不再是拿一个提示词、返回一个答案而是代理生成子代理、调用API、访问企业应用和数据、编写和运行代码在长达几天、几周甚至几个月的会话中保持上下文通常包含多个AI智能体苦工一起配合干活——所有这些都需要CPU带来了市场对CPU的需求变化。第一CPU在整机里的配比上升。传统AI服务器常见配比是1:4到1:8也就是一块CPU配四到八块GPU。Agentic AI起来后比例可能要到1:1或者1:2变成一块CPU只配一到两块GPU。第二出货量上升。2026年服务器CPU出货量同比增长31%2027年由于Agentic AI渗透率提升预计增速进一步扩大到40%以上CPU交货周期也从常规16-20周拉长到25-30周。第三核数、内存带宽和状态保持能力成了硬指标。英特尔至强6做到单路最高288个能效核配合576MB末级缓存现场演示中一颗处理器跑过1024个智能体并发而按2核4GB或1核2GB的常规云配置部署时生产级密度约为400至500个。Arm首款自研AGI CPU最多136个Neoverse V3核心每核专属2MB L2缓存把内存与I/O集成在同一芯片上12通道DDR5-8800 满配时总带宽约800GB/s量级折合每核平均约6GB/s同时可协调几千个AI智能体。英伟达Vera做到88个Olympus核心LPDDR5X内存聚合带宽1.2TB/s单核带宽14GB/s一个机架绑定256颗Vera可以同时维持超过22500个AI智能体并发环境。第四隔离和安全从附加项变成必选项。隔离和安全以前是软件层或安全团队事后补的事现在变成CPU必须原生扛起来的能力而隔离本身要吃CPU资源所以它直接推高了CPU需求。谷歌云的GKE Agent Sandbox基于gVisor隔离技术支持每集群每秒启动300个沙箱。GKE Agent Sandbox在Axion处理器上运行时性价比比其他超大规模云平台高出最多30%。微虚拟机和代理网关正在成为CPU侧的基础能力而不是安全团队事后的补丁。GPU时代CPU的任务是别拖后腿。Agentic AI时代CPU要做的是拆解目标、调度AI智能体、保持状态、隔离边界、衔接存储和网络。犹如一个调度中心核心是编排调度同时也要承担数据准备、语义搜索和向量数据库处理等具体工作。三家主要阵营瞄准的正是这个新角色。英特尔用至强6的288个能效核说话首款Intel 18A数据中心CPU目标是在固定功耗和机架空间里塞进尽可能多的并发AI智能体把代理密度做成可量化指标。AMD更直接核心密度和多线程能力让单台设备同时运行多个AI智能体EPYC系列在AI智能体工作流场景里匹配的正是这种“数量多、每个不重”的并发结构。Arm阵营是变化最剧烈的一条线AGI CPU是Arm成立以来首款自研量产芯片专为AI智能体工具调用、工作流协调和规划推理设计。此外谷歌 Axion 和英伟达 Vera 则分别从主控 CPU 和状态保持切入。不过对于我们边缘AI来说真正值得注意的是云端CPU的角色变化在边缘侧以同构的方式发生了。Agentic AI天然有下沉到边缘的动力一个手机AI智能体要看见屏幕、点击按钮一个机器人AI智能体要感知障碍、执行动作这些环节如果绕道云端在延迟和隐私上都无法接受。所以不是全部下沉而是形成端云分工。端侧负责感知、执行与脱敏云端负责意图规划与状态管理。这意味着边缘CPU不能只当算力配套而要在本地承担感知接入、实时执行和隔离脱敏成为智能体在本地运行的底座——这与云端CPU的调度中枢角色同构。而这种端云分工的底层逻辑不只是算力大小而是延迟、隐私与安全边界敏感信息理想的设计是从源头就不采集而不是采下来再脱敏AI智能体的一部分必须永远留在本地端云分离也避免单点故障。当然啦同构不等于同量级。边缘CPU的约束比云端紧张得多功耗从千瓦级降到瓦级内存从TB级降到GB级但“CPU负责让一堆AI智能体持续地、安全地、有条不紊地干活”这事没变。场景不同职责也有别在感知型和物理执行型Agent中边缘CPU还要额外承担感知接入、实时执行和安全脱敏——它是AI智能体与物理世界之间的那道安全门而在纯软件Agent如数据分析、API编排中这道门不是必需CPU更多是本地运行与隔离的基础保障。一些公司的产品动态已经在对齐“边缘 CPU承载智能体”这个更宽的定位了既有面向本地智能体承载的也有面向物理执行场景的。此芯P1是一颗6nm、12核CPU的智能体SoC原生支持64GB内存可稳定支持13B—35B生产级AI智能体部署。AMD的Ryzen AI Max系列统一内存覆盖128GB和192GB分别面向200B和 300B参数模型的本地运行。英伟达Jetson AGX Thor则把Arm CPU、Blackwell GPU和128GB统一内存打包面向需要持续感知、推理和行动的物理 AI 智能体场景。端侧的安全隔离也在从软件层向硬件层走。AgenTEE 把AI智能体运行时、推理引擎和第三方应用放进独立认证的机密虚拟机基于 Arm CCA在边缘设备上强制执行隔离。Tracekit Box让每个AI智能体任务运行在独立的Firecracker microVM里没有网卡唯一的出口是宿主机上经过签名和管控的通道。这和云端用microVM把几百个AI智能体隔开是同一套思路只是尺度不同。所以Agentic AI带来的不是又一轮算力堆叠而是CPU角色的重新估值。接下来CPU的竞争也要从峰值算力转向并发密度、状态保持和隔离边界这些更接近调度的指标了吧。说明1.文章参考公开报道并借助AI工具进行整理和分析如有不妥之处欢迎指正。2.部分市场数据基于行业估算、发布以及官方报道具体精确数据请以权威机构为准。3.欢迎长期追踪边缘AI的朋友一起探讨。