文章EN中한

推理的经济学

推理 token 不是 API 调用，而是一种计量的资源：被消耗，创造价值，并与耗电量挂钩。后 AI 世界的经济学不像软件，更像水、电和燃气。

阅读时长11 分钟
发布于
主题推理, 经济学, 主权, 边缘系统, GPU, 能源, 半导体
简而言之

带着十六个智能体把 token 用光，不是预算问题，而是我第一次把推理当作公用事业来体验：持续消耗，按单位计量，背后是沉重的物理基础设施。 推理拥有成熟公用事业那样的供应链，建立在芯片、数据、人才和能源之上，瓶颈在芯片制造，地缘政治风险则围绕台湾和出口管制。 如果能力的增长快于其背后物理基础设施的增长，那么 AI 真正的约束不在软件，而在公用事业这一层；瓶颈是那块电表。 可以预见：公用事业式的定价，类似欧洲在俄罗斯天然气上学到的那种主权顾虑，token 效率成为一门工程学科，计量与可观测性成为必不可少的工具。

在上一篇文章里，我讲了 2025 年圣诞节期间把十六个 AI 智能体当作一家虚拟公司来运行的经历。架构行得通，协调模型也行得通。行不通的是经济账。我的 token 预算几天之内就蒸发了，不是因为智能体没有产出，而是因为每一次协调、每一次状态更新、每一次上报，都在消耗一种计量的资源，而我补充它的速度跟不上。

当时，我把这当作一个预算问题。我的个人订阅撑不住智能体之间相互通信的开销。一家拥有 API 访问权限和真金白银预算的企业，就不会受到同样的约束。这个说法没错，但把问题看小了。

我当时实际经历的，是在一个人加十六个终端窗格的尺度上，一件大得多的事情。我体验到的是作为公用事业的推理。一种被消耗的物理资源，就像我开灯时消耗电，拧开水龙头时消耗水一样。

这个视角会彻底改变你思考 AI 经济学的方式。

什么让一样东西成为公用事业

公用事业具有一组共同的属性，使它们有别于普通的商品和服务。它们不是可有可无的，现代生活依赖它们。它们是被持续消耗的，而不是一次性购买的。它们的生产和输送需要庞大的物理基础设施。它们是计量的，按消耗的单位计价。它们的供应链受制于地理、地缘政治和监管。它们的成本结构主要由建设和维护基础设施的资本支出决定，而不是由多输送一个单位的边际成本决定。

水、电、天然气、电信，这是四种传统的公用事业。每一个现代经济体都建立在它们之上。它们的可得性、可靠性和成本，决定了在某个司法辖区里什么是可能的。你不会在电网不可靠的地方建晶圆厂，也不会在冷却用水供应没有保障的地方运营数据中心。公用事业这一层是地基，地基之上的一切都受限于地基能承载多少。

推理正在一一获得这些属性。

它被持续消耗。每一次智能体交互、每一次模型调用、每一个生成的 token，都是一个消耗单位。我的十六个智能体在协调时，消耗推理的方式就像工厂车间消耗电：稳定，可度量，并且与正在完成的工作量成正比。

它需要庞大的物理基础设施。运行前沿模型的数据中心，是眼下全世界在建的资本最密集的设施之一。它们需要先进的芯片、巨量的电力、用于冷却的水，以及物理安保。它们不是软件项目，而是工业项目。

它按单位计量和计价。每一家主要的推理提供商都按 token 收费：输入 token、输出 token，有时不同能力档位的费率还不一样。计费模式本身已经是公用事业的计费模式。用多少，付多少。

它的供应链受制于地理和地缘政治。

芯片、数据、人才、能源

在 RSAC 2026 上，我旁听了一场座谈，台上是四位前 NSA 局长和美国网络司令部司令。Paul Nakasone 阐述了他认为在这个时代决定一个国家战略潜力的四个因素。不是 GDP，也不是军事实力，而是四样东西：芯片、数据、人才和能源。

我当时写过这件事。但自从 shiioo 那次经历以来，我一直在换一个角度思考这四个因素。Nakasone 谈的是国家实力，我谈的是一种公用事业的供应链。

每一种公用事业都有一条供应链，决定了谁能生产它、成本多少、依赖什么。对电来说，供应链是燃料（煤、天然气、铀、阳光、风）、发电基础设施（电厂、涡轮机、光伏板）、输电（电网）和配电（通到你插座的最后一公里）。对水来说，则是水源（河流、含水层、海水淡化）、处理、输送（管道、水泵）和分配。

对推理来说，供应链就是 Nakasone 的四个因素。

芯片是发电能力。先进的 GPU，具体说是绝大部分由台湾的台积电（TSMC）制造、主要由美国的 NVIDIA 设计的前沿芯片，就是推理经济的涡轮机。没有它们，你就无法以有竞争力的成本生产推理。这种制造能力在全球范围内集中于一个地缘政治上存在争议的岛屿上的单一设施，相当于全世界的电力都依赖一座发电厂。这是一个会让基础设施规划者夜不能寐的单点故障。

能源是燃料。前沿推理如今以吉瓦而不是兆瓦来衡量。一个大规模推理集群的耗电量超过一座小城市。AI 2027 情景预测，到 2026 年全球 AI 数据中心的耗电量将达到 38 GW，而这个数字还在沿着一条毫无放缓迹象的曲线上升。没有电就无法运行推理，而电力基础设施也无法一夜建成。拥有廉价、充足、可靠能源的司法辖区，具备一种结构性优势，这是再巧妙的软件也弥补不了的。

数据是原材料，是模型学习的来源，是让推理有意义而不是随机的基底。谁拥有数据，在什么法律约束下可以使用，数据有多多样、多有代表性，这些共同决定了你能生产的推理的质量和适用范围。

人才是运营队伍。不只是设计模型的研究人员，还有建造基础设施的工程师、维持其运转的运维人员，以及守护它的安全专家。这是每一种公用事业都依赖的人力资本层，它集中在少数几个地理集群里，原因和石化工程人才集中在炼油厂附近一样。

把它铺开来看，推理的供应链结构和任何成熟的公用事业都一样。战略上的含义也随之而来。

供应链层级电水推理
原始投入燃料（天然气、铀、阳光）水源（河流、含水层）数据（训练语料）
生产电厂、涡轮机水处理厂GPU、数据中心
输送电网管道、水泵网络、API 端点
生产所需燃料一次能源泵水用电电力（38+ GW）
关键瓶颈电网容量、许可水权、干旱芯片制造（TSMC）
地缘政治风险管道政治、OPEC跨境河流台湾、出口管制

这个类比不是隐喻，而是对结构的描述。

AI 2027 在经济学上说对了什么

AI 2027 情景由 Daniel Kokotajlo、Scott Alexander、Thomas Larsen、Eli Lifland 和 Romeo Dean 撰写，是一份推测性的时间线。作者们很小心地把它定位为推测。但其中的经济预测有一种我反复回想的特质：它们把 AI 算力当作一种工业资源，而不是一种软件产品。

他们的情景追踪了全球 AI 数据中心支出达到万亿美元量级的过程。它描绘了前沿算力在各国之间的分布：美国通过其企业掌握大约 70%，中国约为 12%。它预测的耗电量数字，是公用事业规划者而不是软件工程师会认为切中要害的。

这种视角有用之处不在于具体数字，而在于类别。当你以万亿计来预测 AI 支出、以数十吉瓦计来预测耗电量时，你描述的不是一个软件行业，而是一场公用事业的大建设。资本支出的模式、基础设施的时间线、监管问题、地缘政治竞争，所有这些都对应着历史上各国围绕能源基础设施、电信基础设施和工业产能展开竞争的方式。

AI 2027 的作者们预测，AI 系统加速 AI 研究的反馈回路，会压缩能力增长的时间线。他们给出的具体日期是否成立，没有那么重要，重要的是这个结构性观察：如果能力沿着一条陡峭的曲线增长，而这种能力所需的物理基础设施却沿着一条平缓得多的曲线增长，那么 AI 真正的约束就不是软件，而是基础设施，是公用事业这一层。

这正是我在 shiioo 上以个人尺度经历过的。软件行得通，编排模型也行得通。耗尽的是物理资源：token，也就是推理，也就是算力，也就是芯片和电力。瓶颈不是架构，瓶颈是那块电表。

这对后 AI 系统意味着什么

如果推理是一种公用事业，那么每一个依赖推理的系统都是公用事业的用户。这会改变你设计这些系统的方式。

我构建 shiioo 的时候，把 token 消耗当作需要管理的预算。那是个人开发者的视角：我有固定的配额，得花得明智。但如果把视野拉远到企业或国家，视角就变了。你管理的不是预算，而是对一种公用事业的依赖。

问题变成了基础设施问题。你需要多少推理容量？它从哪里来？你的提供商宕机了会怎样？在可用性和吞吐量上，你有什么合同保障？主要供应中断时，你的后备方案是什么？你是否拥有任何自己的发电能力，还是完全依赖外部提供商？

这些正是企业在电、水、电信方面会问的问题。它们也开始在推理方面问这些问题了，尽管大多数还没有用这个视角来看待。

能顺利度过这场转变的组织，是那些认清推理究竟是什么的组织：一种与耗电量挂钩的消耗性资源，需要物理基础设施，并以信息的情境化和评估的形式创造价值。后 AI 系统每一次与另一个系统或与人沟通，都在消耗推理。每一条智能体之间的消息、每一次模型评估、每一个生成的回复，都是从一种计量供应中取出的一个单位，而这种供应背后有真实的物理成本。

由此引出的影响有好几个方向。

定价将向公用事业模式靠拢。 按 token 计价已经是常态，但行业将转向公用事业所用的更精细的定价结构：阶梯费率、分时定价、容量预留、现货市场。其中一些已经开始出现。随着企业开始像对待能源支出那样对待推理支出，把它当作一项需要专门采购和优化的主要运营成本，这一趋势会加速。

主权将变得重要。 如果推理是一种公用事业，那么依赖外国提供商供应推理，就和依赖外国供应能源属于同一类战略弱点。欧洲在俄罗斯天然气上学到了这一课。你能否在自己的司法辖区内、在自己的基础设施上、在自己的法律框架下运行推理工作负载，这不是关于数据驻留的抽象顾虑，而是基础设施主权的问题。这就是我构建 Archipelag.io 的原因，也是我认为欧洲关于算力主权的讨论需要从政策文件走向物理基础设施的原因。

效率将成为一门工程学科。 电便宜而充足的时候，没有人为能效做优化。电变贵之后，围绕它诞生了一整门工程学科。推理也会如此。眼下，大多数使用推理的系统都用得大手大脚：塞满的上下文窗口、冗长的提示词、重复的调用。当推理成本成为一个不可忽视的开支项目，为 token 效率做优化就会像为能效做优化一样平常。我在 shiioo 那篇文章里描述的结构化通信协议，用类型化的消息取代自由形式的对话，就是一个早期的例子。每一个 token 都应该承载信息，而不是客套。

计量与可观测性将必不可少。 你无法管理一种你无法度量的公用事业。企业需要推理可观测性，就像它们需要电力监控和网络监控一样：对消耗的实时可见性，把成本归属到具体的工作负载和团队，对意外的用量激增做异常检测，并基于历史模式做容量规划。这方面的工具如今几乎还不存在。几年之内，它会成为一个可观的市场。

电表即信息

圣诞节期间 token 用光时，我的第一反应是沮丧。第二反应是换一种方式思考架构：为 token 效率而设计，把廉价的通信路由给更便宜的模型。但第三个反应，也是在我心里停留最久的那个，是认出了它。

我认出了这个问题的形状。它不是一个新形状，而是我遇到过的每一种公用事业约束的形状。是「基础设施就是瓶颈」的形状，是「资源有限且计量，你得考虑自己的消耗」的形状，是「供应链是地缘政治的」的形状。

Nakasone 的四个因素，芯片、数据、人才、能源，不只是评估国家实力的框架，它们是生产推理的物料清单。掌控这份物料清单的国家、企业和个人，将拥有同样的结构性优势：就像工业时代能源丰富的国家，信息时代带宽丰富的国家那样。

第五种公用事业已经到来。只是现在还足够早，大多数人仍以为自己买的是软件。

参考文献

    打开完整搜索 →