NVIDIA公布Vera CPU最新性能数据:AI Agent每瓦处理能力提升1.6倍,服务器CPU竞争转向能效

发布人:A5数据发布时间:2026-11-06 19:32阅读量:121
NVIDIA公布Vera CPU最新性能测试数据,称其在AI Agent工作负载中,每瓦可支持的Agent数量达到对比x86处理器的1.6倍,部分Agent任务执行速度达到2倍。Perplexity、DeepInfra等合作伙伴也公布了相关测试结果。

当AI服务器的竞争不断围绕GPU算力、显存容量和推理速度展开时,NVIDIA开始强调另一个容易被忽视的硬件瓶颈:CPU。

昨天,NVIDIA公布Vera服务器CPU的新一轮性能数据。按照其披露的测试结果,在面向AI Agent的工作负载中,Vera与测试所选的高性能x86处理器相比,每瓦可支持的Agent数量达到1.6倍;与另一款以能效见长的x86处理器相比,Agent执行速度达到2倍。

NVIDIA还公布了Perplexity、DeepInfra、ClickHouse、Daytona等合作伙伴的测试结果,涉及AI编程、任务编排、数据库计算以及大规模沙箱启动。

这些数据尚不能证明Vera已经在所有服务器应用中领先于x86架构,但它们传递出一个值得关注的信号:随着AI应用从单纯生成内容转向自动执行任务,服务器CPU的价值正在被重新衡量。

对于IDC和AI算力服务商而言,未来判断一套AI服务器是否具备竞争力,可能不仅要看GPU每秒能够生成多少Token,还要看CPU能否高效完成模型推理前后的大量工作,以及整套系统需要消耗多少电力。

Vera CPU公布新测试:每瓦Agent数量成为性能指标

NVIDIA此次发布的数据,重点并不是传统的CPU单核性能或多核跑分,而是AI Agent工作负载。

在NVIDIA提出的100MW数据中心比较模型中,Vera取得了两组具有代表性的结果。

与测试中性能最快的x86 CPU相比,Vera每瓦能够支持的Agent数量达到1.6倍。

与测试中能效最高的x86 CPU相比,Vera则实现了2倍的Agent执行速度。

这两项结果使用了不同的比较对象和性能指标,不能直接合并理解为Vera在所有工作负载下都具有相同优势。

NVIDIA希望突出的是,Vera能够同时兼顾Agent任务执行速度和单位功耗下的并发能力。

这种性能比较方式,与传统服务器CPU的宣传重点存在明显区别。

过去,企业采购服务器处理器时,通常会重点比较核心数量、线程数量、主频、缓存容量和内存带宽。对于虚拟化、数据库及Web应用,这些仍然是重要的硬件指标。

但AI Agent的执行过程往往涉及多个不同阶段,单纯增加CPU核心数量,并不一定能够等比例提高整个系统的任务完成效率。

如果服务器已经受到电力、散热或内存带宽限制,继续增加计算资源也可能面临收益递减。

这正是NVIDIA此次将每瓦Agent处理能力作为重要指标的原因。

AI Agent为什么让CPU重新成为关键硬件?

理解这次性能数据,需要先区分普通大语言模型推理与AI Agent任务之间的差异。

传统聊天式AI应用主要围绕模型输入和输出展开。用户提交问题,GPU完成模型推理,随后返回结果。

但AI Agent不仅需要生成答案,还可能持续调用工具、执行代码、访问数据库、处理文件以及与其他系统交互。

例如,一个自动化编程Agent可能需要完成以下操作:

先分析用户需求,再生成代码,随后创建运行环境、执行测试、检查错误,最后根据结果继续修改代码。

GPU主要负责模型推理,而代码执行、文件操作、工具调度和运行环境管理等任务,则需要CPU及其他系统组件参与。

如果这些操作执行缓慢,GPU即使能够快速生成下一步指令,也可能需要等待CPU完成前一个任务。

对于单个用户,这种等待可能只是几秒钟的响应差异。

但当一套AI平台同时运行数百个甚至数千个Agent时,等待时间和CPU资源占用就可能直接影响整体吞吐量。

A5数据注意到,这也意味着AI服务器的性能瓶颈正在从单一计算设备扩展到整个系统。

GPU算力仍然重要,但CPU、内存、网络和存储之间的配合,正在成为影响AI服务效率的重要因素。

合作伙伴公布实测结果:从数据库到千级沙箱并发

除了NVIDIA自身的对比数据,此次公告还引用了多家合作伙伴的测试结果。

这些测试覆盖了不同类型的服务器应用,也有助于理解Vera希望进入的市场。

Perplexity:AI编程任务执行速度提升

Perplexity在Agent编程任务测试中,使用Vera取得了传统CPU平台1.5倍的执行速度。

NVIDIA表示,Perplexity计划在后续生产系统中部署Vera。

这里需要注意,测试中的1.5倍指向特定Agent编程任务,并不代表所有编程工作或普通服务器应用都会获得同样的提升。

DeepInfra:Agent任务编排性能最高达到2.2倍

DeepInfra针对其生产环境中的Agent编排负载开展测试。

按照NVIDIA公布的结果,Vera在相关测试中最高达到对比x86处理器的2.2倍执行速度,并在四种被测试架构中取得最快成绩。

对于提供AI推理与API服务的平台来说,Agent编排效率直接影响请求调度和任务完成时间。

ClickHouse与DuckLabs:数据库工作负载表现

在数据库方面,ClickHouse使用未经Vera专门优化的标准二进制程序进行测试,NVIDIA称其性能能够随176个CPU核心接近线性扩展,并在ClickBench相关硬件排行榜中取得领先表现。

DuckLabs则报告,在TPC-H SF1000测试中,Vera的中位性能约为所选Intel Xeon 6基准平台的1.5倍。

数据库测试尤其值得关注,因为不少AI Agent需要频繁查询业务数据,而不仅仅调用大模型。

不过,数据库性能高度依赖查询类型、内存配置、数据规模和软件优化,因此这些结果仍需要结合完整测试环境理解。

Daytona:1000个Agent沙箱10.8秒启动

在所有公布的数据中,Daytona的结果较为直观。

根据NVIDIA披露的信息,Daytona使用Vera启动1000个Agent沙箱耗时10.8秒,而测试中的x86平台需要88.4秒。

在2000个并发沙箱条件下,Vera还实现了每秒完成12.7个任务的结果。

这一测试展示了CPU在大规模AI开发环境中的另一项价值:快速创建和管理隔离执行环境。

不过,沙箱启动时间并不完全取决于CPU本身,操作系统、虚拟化方式、存储以及运行环境配置都会影响结果。

因此,不能将10.8秒视为所有Vera服务器均可实现的固定性能标准。

100MW数据中心对比背后:CPU能效正在影响机房经济性

此次NVIDIA选择100MW数据中心作为比较背景,具有明显的行业指向。

对于大型AI数据中心,服务器采购成本只是总体投入的一部分。

电力供应、散热能力、机柜功率密度以及持续运行成本,同样会限制实际可部署的计算资源。

即使预算允许采购更多GPU和CPU,如果机房无法提供足够的电力或散热能力,新增硬件也未必能够投入运行。

因此,在固定功率条件下完成更多任务,可能比单纯提高某项峰值性能更具商业价值。

以AI Agent服务为例,如果两套系统消耗相近的电力,但其中一套可以同时支持更多任务,并保持合理的响应速度,那么它就有可能降低单次任务的基础设施成本。

不过,CPU每瓦性能不能直接等同于整机能效。

一套AI服务器还包括GPU、内存、SSD、网卡、电源以及散热系统,各部分都会消耗电力。

同样,数据中心的实际运行成本还受到电价、设备采购成本、软件授权、维护费用和资源利用率影响。

从A5数据的IDC业务视角来看,评估此类新架构时,最值得计算的不是宣传材料中的单一性能倍数,而是整套系统在实际客户负载下的任务吞吐量与总拥有成本。

对于提供GPU推理租用、AI API或自动化计算服务的企业,这种比较可能比传统CPU跑分更接近真实经营需求。

Vera能否挑战EPYC和Xeon?需要区分AI专用负载与通用服务器市场

NVIDIA公布的测试数据展示了Vera在部分AI相关任务上的竞争力,但这并不意味着现有AMD EPYC或Intel Xeon服务器已经失去优势。

首先,不同处理器面向的工作负载并不完全相同。

传统企业服务器需要承担网站服务、数据库、虚拟化、存储、业务后台和各类商业软件。

这些应用不仅关注计算性能,还涉及操作系统兼容性、软件生态、稳定性、部署成本以及长期维护。

其次,Vera采用的硬件架构与主流x86服务器不同。

企业从x86迁移到新平台时,需要确认应用程序、容器镜像、驱动及相关依赖是否具备兼容性。

对于已经部署大量x86服务器的IDC服务商,现有平台的兼容性和运维经验仍然具有实际价值。

再次,NVIDIA此次公布的结果主要集中在Agent执行、数据库及沙箱等测试场景。

要判断Vera是否适合替代现有服务器CPU,还需要进一步比较实际功耗、整机配置、采购价格、软件适配和长期运行表现。

尤其对于普通网站托管、传统虚拟化和企业应用,不能直接套用AI Agent测试结果。

因此,Vera与EPYC、Xeon之间的竞争,现阶段更适合从特定工作负载的性能和能效展开分析,而不是简单宣布某一种架构全面领先。

AI服务器采购正在出现新的衡量方式

NVIDIA此次公布Vera CPU性能数据,反映了AI基础设施设计中的一个变化。

早期AI服务器采购更多关注GPU数量、显存容量及模型推理性能。

随着AI应用逐渐走向自动化任务执行,CPU承担的工作开始增加,数据库查询、代码运行、任务调度和沙箱管理都可能影响最终服务体验。

这意味着,未来部分AI服务器产品可能需要建立更加完整的性能指标体系。

除了GPU每秒生成Token数量,还应关注:

  • 单位功耗下能够同时运行多少个Agent;

  • 每个Agent完成实际任务需要多长时间;

  • CPU与GPU之间是否存在明显等待;

  • 大规模并发时的内存及存储压力;

  • 整机持续运行的电力和维护成本。

这些指标并不适用于所有服务器业务,但对于面向AI Agent的新型计算服务,已经具有明确的参考价值。

A5数据在分析这次NVIDIA公告时,最关注的不是1.6倍或2倍这样的单独数字,而是其背后体现出的产品竞争方向。

当GPU算力持续提升,AI服务器厂商开始更加重视CPU如何参与整个任务流程,以及不同硬件能否在有限功率下完成更多有价值的计算。

对于IDC企业而言,这可能影响未来AI服务器的配置方式、性能测试方法和租用产品设计。

但真正决定新架构能否被市场接受的,仍然是实际部署中的性能、兼容性、稳定性和成本。

NVIDIA已经给出了Vera在部分AI Agent场景下的测试结果。接下来,更值得观察的是这些优势能否在不同规模的生产环境中得到持续验证,以及它们最终能否转化为用户看得见的服务效率和成本改善。

本文由A5数据原创发布,转载请注明出处:https://www.a5idc.com/helpcontent/7962.html

相关推荐