传统云CPU发展存在设计取舍

在过去很长一段时间,云计算数据中心在选购CPU产品时,会优先把核心数量作为重要衡量指标。为了提升服务器整体任务吞吐能力,行业普遍追求更多计算核心,以此承接更多并发任务,提高硬件资源利用率。

但这种发展思路也带来现实的取舍,当芯片内部塞入大量计算单元之后,留给单核心性能优化的空间被压缩,单线程处理能力因此被放在次要位置。很多任务属于串行执行逻辑,单线程表现偏弱,会造成整套服务器实际运行效率打折扣,只是在过去的业务场景下,该问题没有充分暴露出来。

英伟达VeraCPU团队在近期的访谈当中提到,这样的行业现状正在随着代理AI的兴起发生改变。AI智能体和传统大模型对话任务不一样,会频繁进行工具调用、环境模拟、循环推理,大量串行逻辑需要CPU快速响应,单线程性能、内存带宽和延迟表现,直接会影响整套AI系统的实际产出效率。

Vera CPU瞄准代理AI的实际需求

Vera CPU是英伟达面向代理AI场景打造的处理器,产品设计思路跳出以往CPU依附GPU的定位。以往在AI服务器架构中,CPU更多承担辅助调度工作,主要算力输出依靠GPU完成。而Vera CPU被定位成可以独立工作的计算节点,英伟达还规划推出独立的Vera CPU机架方案,不需要绑定大量GPU,专门承接智能体带来的大批量工具调用与推理循环任务。

代理AI的运行流程有明显特点,模型推理、环境沙盒模拟、任务编排会在CPU与GPU之间反复流转。一旦CPU响应速度跟不上,强大的GPU就会出现空闲等待,造成昂贵算力资源浪费。所以这款处理器不再一味堆砌核心,转而重点打磨单线程性能,同时拉高内存带宽,压低任务处理延迟,针对性解决代理AI运行过程中出现的硬件瓶颈。

数据中心CPU和GPU配比持续变化

AI工作负载的迭代,也在不断改写服务器内部CPU与GPU的算力配比。回顾早期大模型部署阶段,整套系统算力重心高度向GPU倾斜,CPU和GPU算力占比大致维持1比8。随着应用不断演进,当下不少新建数据中心已经调整到1比4,按照行业发展推演,未来部分业务环境当中两者占比有望来到1比1的水平。

部分行业观点更加激进,认为全面进入代理AI时代,CPU承担的工作量会进一步暴涨,两者比例甚至可能达到80比1。对于这个判断,英伟达方面没有完全予以认同,但团队承认算力需求正在明显向CPU一侧倾斜,这也是其大力推广独立VeraCPU机架的现实动因。

CPU正在成为AI基础设施的关键一环

以往大众谈及AI算力,目光大多集中在GPU身上,CPU常常被当作配套的附属硬件。代理AI范式兴起之后,整个行业重新看见CPU的不可替代性。智能体要完成规划决策、调用外部工具、模拟运行环境,大量逻辑运算都需要CPU来完成,它不再只是简单的调度中转单元。

服务器厂商也看到这一趋势,多家硬件厂商已经准备推出搭载VeraCPU的整机设备。整个行业对CPU的评判标准,也不再只盯着核心数量,单线程执行效率、内存吞吐、延迟表现,成为采购选型中新的重点考察项。

当然这并不意味着GPU价值会被削弱,模型基础推理依旧高度依赖GPU并行算力。只是AI任务链条被拉长之后,CPU的短板会放大整套系统的瓶颈。平衡CPU与GPU两者能力,才能够充分释放代理AI的实际能力,这也是整个数据中心硬件接下来要面对的调整方向。

(素材来自:英伟达 智算芯能前沿网综合)

标签:CPU GPU 英伟达

本文由智算芯能前沿网编辑整理,转载请注明出处。