对话谷歌AI基建负责人：有效吞吐取代FLOPS，Agent正在重写数据中心逻辑

当一家公司的AI服务能力需要每六个月翻一倍，买更多芯片只是问题的开始。十万颗加速器组成的集群里，故障随时发生；模型几个月就会迭代，硬件却要使用多年。这正是Google AI基础设施负责人Amin Vahdat近日与红杉资本对话时抛出的核心命题：如何用建设周期长达数年的基础设施，承接仍在快速变化的AI需求。这场对话透露出的关键信号——从有效吞吐（goodput）取代FLOPS成为新的问责指标，到长时程Agent对数据中心资源配比的重塑，再到推理基础设施的独立选址逻辑——不仅关乎谷歌一家公司的技术取舍，更在重新定义全球AI算力基础设施的建设范式。

一、算力账本重算：有效吞吐成为终极问责指标

Amin Vahdat在对话中反复强调一个观点：FLOPS是虚荣指标。在十万加速器规模下，芯片的理论计算能力只是一个起点——实际上，在这个规模下，每一天都会多次发生故障，甚至每小时都有东西出错。如果有一个芯片在同步工作负载中失效，整个系统可能停顿，等待检查点恢复、重启，甚至最坏情况从头再来。

这正是有效吞吐概念的由来。它不是理论吞吐量的折扣版本，而是把故障、等待、重复计算全部扣除之后，系统真实交付的答案量。在AI数据中心内部，这种问责逻辑正在改变运营方式：故障检测必须在秒级完成，恢复需要在分钟级完成，而遥测系统的复杂度相当于在干草堆里持续找针。

二、芯片配比之辩：专用化的预判艺术与TPU拆分逻辑

在芯片设计的取舍上，Vahdat揭示了Google在两年前做出的关键决策：2026年将推出两颗芯片——8i用于推理，8t用于训练。在此之前，Google一直用一颗芯片兼顾两者。这一拆分的背后，是基于对推理需求将在2026年真正起飞的预判。

专用化的本质是一门预判的艺术。如果工作负载只有几个月的生命周期，哪怕规模再大，专业化也是陷阱；但如果需求具备持久性，优化的收益就是乘法级的。Google的TPU项目自2013年启动以来，从纯推理芯片扩展到训练，再到拥抱Transformer和推荐系统，本质上是一次持续验证预判能力的过程。

对于设备商而言，这一信号颇具参考价值：芯片路线是追求通用还是专用、是单芯片统一还是拆分双线，必须以工作负载的持续规模为唯一判据。而Google的答案——8i和8t既能互相顶替又各有侧重——揭示了硬件设计的一条边界法则：专业化程度越高，越需要保留灵活性冗余。

三、长时程Agent重构数据中心资源配比

Agent负载对数据中心的影响，可能是这场对话中最具前瞻性的部分。过去，人阅读和思考的间隔自然限制了模型请求的频率；而长时程Agent可以连续调用模型、执行工具、读取上下文，交互时间从数秒压缩到毫秒级别。

这一变化带来的是资源配比的系统性调整：不仅加速器的需求在上升，CPU的编排负载、网络带宽、存储访问频率都在飙升。Agent的每一次工具调用都可能触发上下文读取——可能来自本地DRAM、另一台CPU的内存、SSD或硬盘——这意味着数据中心必须在加速器机架旁边布局足够规模的CPU和存储资源。

Vahdat指出，这正在挑战“完全专业化”的设计哲学：如果AI机架旁边必须放置大量CPU机架，那么单一类型的超高密度部署就不是最优解。建筑设计必须重新考虑：是让加速器和CPU混合部署在同一建筑内，还是分置建筑之间用高成本网络互联？这些权衡在改变AI数据中心的物理形态。

四、推理基础设施独立：训练集群退役转推理无法满足需求

一个被广泛误解的认知是：训练集群退役后可以转为推理使用。Vahdat明确否定了这一路径的充分性。推理需求已经大到必须单独建设基础设施，其选址逻辑与训练集群截然不同——推理服务需要靠近全球用户，并协调计算、存储和网络的同步部署。

这意味着，未来的算力网络将呈现两种不同的空间布局：训练集群集中在少数大型站点，以保持网络距离最小化；推理集群则分布式部署在全球各地，靠近流量入口。对于通信行业而言，这种“集中训练+分布推理”的拓扑结构，将直接决定光网络、数据中心互联和边缘节点的规划思路。

五、硬件的七年寿命与电力约束

Google的七八年老TPU仍然满负荷运转——这一表述在行业里引起了不少关注。Vahdat解释，折旧寿命约六年，一旦完全折旧，考虑到新代的能效提升，替换和升级才有意义。但这并非简单的以旧换新：新pod的物理尺寸可能与旧pod的空位不匹配，改造本身是一门艺术。

电力是另一个长期约束。Google的首选模式始终是接入公用事业电网，而非自建发电设施。原因在于统计复用效应：如果自建1GW电力并追求99.99%以上的可靠性，实际需要建设2GW容量；而通过与公用事业公司协同，在高峰时段向电网供电、在必要时补充本地发电，双方都能受益。

这一逻辑对中国市场同样有参考价值。随着东数西算工程的推进，数据中心园区如何与电网公司协同规划、如何在绿电交易框架下实现容量共享，都是决定算力基础设施经济性的关键变量。

六、垂直整合与开放接口的平衡之道

Vahdat反复提及一个判断：这场基础设施建设规模太大、影响太深，无法只依赖某一家供应商的封闭技术栈。Google希望通过芯片、网络和软件的协同设计提升效率，同时让客户保留框架与硬件选择。JAX与PyTorch并行支持的策略，本质上是“性能留在桌面上”与“锁定风险”之间的平衡。

对中国产业而言，这一立场意味着开放标准在AI算力竞争中的战略价值。无论是芯片层面的互联协议，还是框架层面的互操作性，能够在封闭与开放之间找到最优解的企业，将具备更持久的竞争力。

七、未来十年的算力想象

在对话的末尾，Vahdat描绘了2036年超级计算机的图景：更深度集成、更少光纤、单个机架可能达到数兆瓦，集中制造后运抵数据中心，插入电力、水和光纤即开始运行。他甚至提到了轨道数据中心的可能——太阳同步轨道的太阳能利用率是地面的数倍，虽然冷却和维修是巨大挑战。

这些设想距离中国通信行业的现实仍有距离，但其中的方向是明确的：算力基础设施的建造周期正在拉长，规划周期却在缩短；硬件寿命长达多年，但需求形态每个月都在变化。对于所有参与这场建设的企业而言，如何用确定性的物理设施承接不确定性的智能需求，将是一道长期考题。而有效吞吐、每瓦智能这些指标的背后，是同一个追问：算力的最终度量，永远是交付给用户的答案，而非芯片上印刻的规格。