正文

Agentic AI爆发引发CPU算力危机:AWS遭遇内部资源告急

编辑:Zeneca发布时间:17小时前

Agentic AI引爆CPU需求

作者:董静,华尔街见闻

AI Agent的爆发式普及正在引发一场意想不到的算力危机——不是GPU,而是长期支撑互联网运转的传统CPU。8月7日,据科技媒体The Information报道,亚马逊云服务(AWS)高管于今年5月召集工程师会议,发出警示:为确保EC2云服务器业务未来能满足所有客户需求,必须尽一切可能节省算力资源,这一要求明确涵盖CPU。

AWS内部CPU资源告急

知情人士透露,AWS已向各团队设定截止期限,要求在今年晚些时候削减计算资源占用。工程师正下线闲置的EC2虚拟服务器实例,将算力重新分配给外部客户。一名在AWS工作多年的工程师表示,过去数小时内可获取的CPU资源,如今需等待数天,这在其职业生涯中前所未有,并可能影响项目交付进度。

外部客户暂未受显著影响

AWS回应称,尽管面临“大量需求”,公司仍能满足“绝大多数内外部客户的计算需求”,并强调正与内部团队协作提升EC2资源利用效率。目前,通过合同承诺获得CPU算力的企业客户尚未报告运营层面的短缺。然而,AWS的“竞价实例”(Spot Instances)——即以大幅折扣出售但可随时收回的溢出资源——近几个月已愈发难以大批量获取,显示整体算力弹性空间正被压缩。

CPU与内存成AI新瓶颈

此次CPU短缺的核心驱动力是Agentic AI的快速普及。AI咨询机构Elendil Labs联合创始人Jing Xie指出,AI Agent在运行中需持续调用云计算资源,显著推高CPU使用量。“现在构建、生产和运行的大量工作,所需的CPU都比过去更多。”此外,AI公司在模型训练前的数据预处理阶段也高度依赖CPU读取文档、图像和视频等原始数据。

芯片厂商的数据印证了这一趋势:英特尔CEO在4月财报会上称AI推理中CPU与GPU使用比例为1:4,而到7月,CFO David Zinsner表示该比例已接近1:1。AMD和Arm高管亦有类似观察。与此同时,配套内存芯片供应不足及数据中心物理空间限制,进一步加剧算力紧缺。

科技巨头共面算力分配难题

算力的内外部分配已成为大型科技公司的共同挑战。据The Information此前报道,谷歌去年成立高级管理委员会,协调Google Cloud、DeepMind及消费者业务间的算力分配,但内部摩擦仍存——明星AI研究员Noam Shazeer因不满算力获取问题于今夏离职。相比之下,微软通过提升CPU和GPU集群管理效率,直接推动Azure云服务增长。CFO Amy Hood在上月财报会上表示:“当我们实现效率提升时,这些收益会被迅速货币化。”