AMD第五代EPYC成为Google TPU 8tx主机CPU:机密AI推理为何仍离不开服务器处理器?

发布人:A5数据发布时间:2026-11-10 16:44阅读量:115
AMD宣布第五代EPYC服务器处理器成为Google Cloud TPU 8tx的主机CPU,为机密AI推理提供任务调度、数据准备、高速通信及硬件安全支持。

AI加速器的计算能力越来越强,但决定一套AI系统能否安全处理企业敏感数据的,并不只有负责模型推理的芯片。

昨日,AMD正式宣布,第五代EPYC服务器处理器成为Google Cloud TPU 8tx的主机计算基础。双方将EPYC的通用计算能力、AMD Secure Encrypted Virtualization(SEV)安全技术与Google第八代TPU加速架构相结合,为企业提供具有硬件级机密计算能力的AI运行环境。

这次合作有一个值得关注的细节:Google拥有自主设计的TPU芯片,却仍然选择AMD EPYC作为主机CPU,而且特别强调处理器在数据保护、任务协调和加速器通信中的作用。

A5数据注意到,这与传统AI服务器主要宣传GPU算力和显存容量的方式有所不同。此次AMD希望展示的,不只是EPYC能够为高性能加速器提供足够的计算支持,更是CPU如何参与建立整套AI系统的安全信任基础。

当企业开始使用AI处理内部文档、专有模型、客户资料和商业数据时,一个新的问题变得越来越重要:即使AI加速器本身具备较强的数据保护能力,负责加载数据、管理内存和连接加速器的主机系统,是否同样能够防止敏感信息暴露?

Google采用自主TPU,为什么仍然需要AMD EPYC?

在AI服务器中,CPU与GPU或TPU并不是完全相互替代的关系。

TPU是Google为机器学习计算设计的专用加速器,能够高效完成大规模矩阵运算等任务。

但一套实际运行的AI推理系统,除了执行模型计算,还需要完成大量通用处理工作。

例如,企业提交推理请求后,系统需要接收和解析请求,准备输入数据,分配计算资源,将任务交给加速器执行,并在计算完成后处理输出结果。

如果系统包含多个模型、多个用户和大量并发任务,还需要进行资源调度、内存管理、异常处理以及网络通信。

这些工作中的相当一部分,仍然依赖主机CPU。

根据AMD此次公布的信息,在TPU 8tx系统中,第五代EPYC主要承担以下职责:

  • 工作负载编排与任务协调;

  • AI计算所需的数据准备;

  • 主机与TPU之间的高吞吐通信;

  • 运行相关系统软件和通用计算任务;

  • 配合硬件安全机制保护敏感数据。

其中,前面几项属于传统服务器CPU在加速计算系统中的基本职责,而最后一项则是此次合作的重要变化。

对于普通AI推理系统,主机CPU主要影响任务处理效率和资源利用率。

但在机密AI计算环境中,主机CPU还需要参与决定:哪些计算环境可信,哪些设备可以访问受保护的数据,以及敏感信息在主机和加速器之间移动时如何维持安全状态。

这也说明,AI服务器CPU的重要性并没有因为专用加速器的发展而降低,只是其价值正在向更复杂的系统协调和安全能力延伸。

EPYC的核心作用:不仅负责计算,还要建立可信执行环境

AMD此次重点介绍了EPYC所支持的Secure Encrypted Virtualization技术。

SEV是AMD Infinity Guard安全技术体系的重要组成部分,主要用于保护虚拟化环境中正在处理的数据。

在传统虚拟化服务器中,虚拟机运行在由宿主机及Hypervisor管理的环境里。

宿主机负责分配内存、CPU和其他硬件资源,通常具有较高的系统管理权限。

对于普通企业应用,这种管理模式能够提供较好的资源利用率和运维便利性。

但如果企业希望在第三方云平台上处理高度敏感的数据,就可能提出更严格的要求:即使基础设施由云服务商运营,也希望限制宿主机软件及其他租户对自身内存内容的访问。

AMD SEV正是为这类场景提供硬件基础。

通过处理器支持的内存加密和隔离机制,SEV能够帮助保护机密虚拟机中的数据,减少特定高权限软件或其他虚拟机直接读取受保护内存的风险。

AMD第五代EPYC将这一能力带入TPU 8tx的主机基础设施。

不过,需要明确的是,SEV并不是单独启用某个CPU功能,就能让所有AI计算数据自动获得完整保护。

真正的机密AI计算,还需要主机CPU、TPU、固件、驱动及云平台安全机制之间相互配合。

这也是Google与AMD此次合作区别于普通CPU供货关系的重要之处。

CPU内存已经加密,为什么还要验证TPU的身份?

如果一套AI系统只使用CPU进行计算,那么受保护的内存和可信执行环境可以在相对明确的硬件边界内工作。

但TPU 8tx还需要将大量计算任务交给独立加速器。

这就带来一个新的安全问题。

模型权重和用户输入最初可能位于受到保护的CPU内存中,但实际推理需要TPU读取其中的数据。

如果只是简单允许加速器直接访问受保护内存,就可能破坏原有的隔离边界。

因此,机密计算系统必须确认连接的加速器是否可信,以及它是否处于符合要求的安全配置状态。

根据AMD官方说明,TPU 8tx在允许加速器直接访问受保护内存之前,会验证加速器的身份和安全配置。

随后,系统通过CPU和TPU之间的协同机制,帮助保护模型权重、用户提示词以及中间计算数据。

AMD表示,这些信息在CPU内存中以及主机与加速器之间传输时受到加密保护,并在加速器执行期间获得硬件隔离。

这与普通的设备访问控制有什么不同?

传统服务器通常需要确认设备是否能够正常运行,以及相应驱动程序是否正确加载。

机密计算系统还需要回答更进一步的问题:设备虽然能够工作,但是否有资格接触受保护的数据?

例如,服务器识别到某块加速卡,并不意味着应该立即将企业敏感信息交给它处理。

系统还需要确认该设备的身份、固件和安全配置是否满足预期要求。

只有通过相关验证之后,才允许其进入受到保护的计算流程。

这种机制可以理解为将原本集中在CPU和虚拟机内部的信任边界,进一步延伸到连接的加速器。

A5数据认为,这是此次AMD与Google合作中最具有技术意义的部分。

机密AI计算的关键,并不是让CPU和TPU各自拥有一套独立的安全功能,而是确保敏感数据跨越两种处理器时,原有的保护关系不会中断。

当然,硬件级保护也有适用范围。

它不能自动解决应用接口越权、业务代码泄露数据、错误日志记录敏感信息等问题,也不能保证所有可能的侧信道攻击均已得到消除。

企业仍然需要结合实际威胁模型、软件配置和安全验证能力,判断整套系统能够提供什么程度的保护。

从服务器CPU到机密计算基础,AMD正在扩大EPYC的角色

此次合作还有一个值得关注的产业背景。

AMD表示,第五代EPYC在Google TPU 8tx中的应用,是其服务器CPU进入专用AI加速基础设施的又一案例。

根据AMD官方介绍,EPYC目前已被超过10家大型云服务商及前沿AI实验室选用,承担GPU或定制AI加速器系统中的主机计算职责。

这些系统不仅可能使用AMD Instinct GPU,也可能采用NVIDIA GPU或云厂商自行开发的加速芯片。

从服务器市场竞争角度看,这意味着主机CPU不必与某一种AI加速器绑定。

只要具备足够的内存带宽、I/O能力、软件兼容性和安全机制,就有机会成为不同加速计算平台的基础组件。

AMD也在本次公告中特别强调EPYC的x86软件生态。

对大型云厂商来说,采用成熟的x86主机平台,可以继续利用现有操作系统、虚拟化及运维软件基础,而不必因为使用新的AI加速器,就重新构建全部通用计算环境。

但这里不能将AMD的合作规模直接解释为其在所有AI服务器CPU市场中已经占据领先地位。

相关数字来自AMD官方披露,代表其公布的客户采用情况,并不等同于独立市场份额统计。

同样,TPU 8tx公告也没有提供完整的EPYC具体型号、核心配置和与其他服务器CPU的直接性能对比。

因此,这次消息更适合从主机CPU的架构职责和机密计算能力展开分析,而不是简单判断EPYC在所有AI工作负载中具有性能优势。

AI加速器越强,主机CPU的I/O与内存能力越重要

对于普通计算服务器,CPU性能通常可以通过核心数量、频率、缓存以及应用测试成绩进行比较。

但在大型AI加速系统中,CPU性能还需要结合数据传输效率来判断。

例如,TPU执行模型计算时,需要及时获得输入数据和相关计算任务。

如果主机数据准备缓慢,或CPU与加速器之间的通信效率不足,即使TPU拥有较高的理论算力,也可能因为等待数据而无法充分利用。

特别是现代AI Agent应用,经常需要在模型推理、数据库查询、工具调用和业务系统之间反复切换。

这些任务并非全部适合交给AI加速器执行。

CPU需要承担模型计算之外的许多操作,并协调不同组件之间的数据交换。

这使得主机CPU的内存带宽、PCIe与其他I/O能力、任务调度效率,以及软件运行环境,成为影响整机性能的重要因素。

不过,实际瓶颈必须通过真实工作负载测试确认。

不能因为某套AI系统采用了第五代EPYC,就认定其所有应用都能够获得更高吞吐量,也不能认为主机CPU核心越多,AI推理速度一定越快。

对于部分以加速器计算为主的模型,CPU可能并不是主要瓶颈。

但对于需要大量数据预处理、工具执行和多任务协调的AI平台,主机CPU资源不足就可能影响总体效率。

此外,当系统引入硬件级机密计算时,还需要评估安全机制对内存访问和设备通信带来的额外开销。

AMD和Google表示,双方正在结合主机CPU和TPU的安全能力,支持受保护的推理、微调及强化学习工作负载。

但截至此次公告,双方没有提供足够完整的公开数据,用于独立量化EPYC在TPU 8tx中的性能贡献及相关安全机制的全部运行开销。

因此,实际性能和成本仍需等待更充分的系统级测试。

机密计算对企业AI部署究竟有什么实际价值?

过去,企业采购GPU服务器时,通常更关注模型能否运行、显存是否足够以及推理性能是否满足需求。

但随着企业开始将内部业务数据接入AI系统,问题正在发生变化。

例如,一家企业可能拥有经过长期积累的专有模型和内部知识库,希望利用云端TPU进行微调或推理,但又不希望基础设施中的其他软件组件能够直接读取模型权重和业务数据。

对于这类需求,传统的网络传输加密和磁盘加密并不能覆盖全部计算过程。

机密计算的目标,就是在数据实际被使用时继续提供一定程度的硬件保护。

不过,企业也需要考虑机密计算能否与现有软件栈兼容。

因为AI推理不仅涉及模型计算,还可能需要调用外部API、访问数据库、保存日志以及使用各种插件和工具。

如果某个应用主动把敏感信息发送到受保护环境之外,即使主机CPU和TPU具备机密计算能力,也无法阻止所有业务层面的数据泄露。

因此,部署机密AI系统仍然需要配套的权限管理、密钥保护、日志审计和数据访问策略。

对企业来说,机密计算更适合被理解为增加了一层针对基础设施的安全防护,而不是代替全部应用安全工作。

这一点对于面向多个客户提供AI推理服务的云平台尤其重要。

当不同客户共享物理基础设施时,硬件支持的计算隔离可以成为其安全架构的一部分,但多租户网络、存储、访问权限和运维流程仍然需要分别设计。

对IDC运营商而言,CPU选型正在增加新的评估维度

A5数据长期关注服务器硬件配置与海外IDC业务。从此次合作来看,AMD EPYC在AI服务器中的应用价值,已经不能只从传统处理器跑分的角度理解。

对于普通网站托管、数据库和虚拟化服务器,CPU核心数量、内存容量、稳定性和成本仍然是主要选型因素。

但面向AI推理和加速计算业务,可能还需要增加几个判断维度。

首先,CPU是否能够满足加速器的数据准备和任务协调需求。

其次,主机平台是否具备足够的内存带宽及I/O扩展能力。

再次,CPU与加速器之间是否具有成熟的软件兼容性和稳定的通信机制。

对于涉及敏感数据的AI服务,还需要进一步考虑处理器是否支持相应的机密计算功能,以及主板、固件、虚拟化平台和加速器是否真正实现了这些能力。

这里需要特别强调,AMD Infinity Guard及SEV相关功能能否正常使用,取决于具体处理器型号、系统固件、OEM厂商和云平台的实际支持情况。

并不是所有搭载EPYC的服务器,只要安装相应CPU,就自动具备与Google TPU 8tx相同的机密计算能力。

对于自行采购AMD EPYC服务器、准备部署GPU推理业务的IDC企业,仍然需要确认主板BIOS、固件、操作系统、Hypervisor和加速器驱动的支持范围。

如果准备向客户宣传机密计算能力,也应基于已经验证的整机部署结果,而不能仅依据CPU产品宣传资料。

此外,这种架构是否值得采用,还需要考虑业务本身的安全要求。

对于普通公开模型推理,机密计算可能并不是最优先的采购因素。

但对于需要保护商业模型、内部数据和专有算法的企业,硬件隔离能力就可能成为重要的部署条件。

Google为何在TPU系统中继续选择x86主机平台?

Google拥有自己的TPU,也开发了基于Arm架构的Axion服务器处理器。

因此,此次TPU 8tx选择AMD EPYC,还有一个值得关注的地方:大型云厂商即使拥有自研CPU,也不一定要求所有加速系统都采用同一种主机架构。

不同处理器具有不同的软件生态、硬件能力和部署特点。

对于TPU 8tx,Google明确强调了硬件级机密计算需求。

而AMD EPYC不仅提供x86通用计算能力,还拥有经过多年发展的SEV技术体系,以及现有的机密计算云服务部署经验。

AMD此前已经与Google在Confidential VM、Confidential GKE、Confidential Space及其他云服务中展开合作。

此次TPU 8tx进一步将双方的合作延伸至AI加速计算。

这说明,机密计算能力并不是在新系统发布时临时加入的一项功能,而是建立在已有CPU安全技术、云平台实现和长期工程合作的基础上。

当然,Google和AMD的公告并没有公布全部产品选型过程。

因此,不能据此断言Google选择EPYC完全是因为SEV,或者说明其他CPU架构无法支持类似的机密计算设计。

但可以确认的是,AMD EPYC的主机计算、安全技术和x86兼容性,构成了此次合作公开强调的主要价值。

AI服务器CPU的竞争,正在延伸到整套系统的安全能力

此次第五代AMD EPYC进入Google TPU 8tx,并不是一场单纯围绕CPU性能的新品发布。

它展示的是一种新的主机处理器职责:不仅要让AI加速器持续获得数据和计算任务,还要参与建立受保护的执行环境,使敏感数据能够在CPU与TPU之间安全流转。

对于AI基础设施来说,这种变化具有现实意义。

随着模型推理、微调和Agent自动化逐渐进入企业核心业务,越来越多用户开始关注数据在计算过程中的安全,而不仅是模型每秒能够生成多少Token。

AMD和Google此次合作提供了一种针对这些需求的系统设计方案,但实际安全效果仍取决于硬件、固件、虚拟化平台及软件共同实现的保护机制。

从A5数据的角度来看,未来AI服务器CPU的竞争,除了计算性能、能效和内存带宽,还可能进一步涉及机密计算、设备可信验证以及与不同加速器的协同能力。

这也意味着,服务器采购和配置推荐不能只依据处理器型号判断整体价值。

同样采用EPYC处理器的两套服务器,可能因为主板固件、安全配置、加速器互联和软件支持不同,而适用于完全不同的业务环境。

对于IDC服务商和企业用户,真正值得关注的是整机能够提供哪些经过验证的计算与安全能力。

Google TPU 8tx的发布证明,专用AI加速器可以承担越来越多复杂的模型计算,但传统服务器CPU仍然是连接业务软件、内存资源、设备通信和硬件安全机制的重要基础。

随着AI计算逐渐深入企业敏感业务,这种主机CPU与专用加速器之间的分工,可能比单纯提高某一颗芯片的性能更加值得关注。

本文由A5数据原创发布,转载请注明出处:https://www.a5idc.com/helpcontent/8695.html

相关推荐