一个由人组成的帝国

Empire of AI 开篇于 2023 年 11 月 17 日星期五，太平洋时间中午前后：Sam Altman 登录一个视频会议，董事会五名成员中的四人告诉他，他被解雇了。序章把整整五天都讲了一遍：Ilya Sutskever 什么也解释不清的全员大会、高管们的威胁、员工联名信、Microsoft 的邀约、Sutskever 的反悔、Altman 的回归。随后全书回到 2015 年 Rosewood 酒店的一场晚宴，直到最后一部分，才从董事会商议的内部再次抵达同样的五天。

Karen Hao 从 2019 年起就在追踪 OpenAI，那一年她在公司办公室里驻留了三天，写下了关于这家公司的第一篇特稿。这本书建立在对约 260 人进行的大约 300 次访谈之上，其中 90 多人是 OpenAI 的现任或前任员工，此外还有备忘录、电子邮件和 Slack 消息。Altman 和 OpenAI 选择不予配合。这一点在两个方向上都看得出来：她知道谁在哪次会议上说了什么，而 Altman 大多是透过与他共事的人被看到的。

我给它打 7.5 分（满分 10 分）。如果你想理解 Sam Altman、OpenAI 以及塑造了二者的那些纷争，这就是该读的书；它也让我确信了一件我早有猜测的事：一家可能与历史上任何公司同等重要的公司，仍然是由像你我这样的人在运营，只是更聪明一点、更狡黠一点、更有远见一点。

两本书，一个故事

我紧接着 Sebastian Mallaby 为 Demis Hassabis 写的传记 The Infinity Machine 读了这本书，事实证明这是正确的顺序。Mallaby 讲述了 DeepMind 的起源，顺带也讲述了现代机器学习的起源，按时间顺序，一直讲到基于 Transformer 的语言模型，而我们才刚刚开始经历它们带来的后果。Hao 讲的是另一半：同样的年份，许多同样的人（Musk、Sutskever、Amodei、Hinton、Suleyman），只是从旧金山而不是从伦敦看过去。两本书互为对方盲点的镜像。Mallaby 得到了 Hassabis 的配合，透过 Altman 的对手来描绘他；Hao 没有得到 Altman 的配合，而 Hassabis 即便出场，也是被远远地描绘。

有些场景在两本书里都出现，并因此更好看。Musk 对 Hassabis 的恐惧，Mallaby 是从伦敦报道的，在 Hao 的第一章里却成了 OpenAI 得以存在的理由：Musk 不希望 AI 的未来由 Larry Page 掌控，而 Altman 写邮件给他说，最好由 Google 以外的人先把它造出来。一位前 DeepMind 研究员对 Hao 说，OpenAI 的创立是「对一个相当温和的人的半歇斯底里的反应」。Mallaby 展示了 DeepMind 如何否定以语言通往智能的道路，Hao 则展示了让它改变主意的那份备忘录：2019 年从 OpenAI 转投 DeepMind 的安全研究员 Geoffrey Irving，带去了扩展语言模型的论证（第 7 章）。两本书共同涉及的人物和观念，我画在了 Who contributed to AI 里，每一条连线都有出处。

两本书的侧重点差异很大。Mallaby 讲解技术，每个概念讲两遍，人物服务于这个领域的历史。Hao 感兴趣的是人和政治，以及谁为这项技术买单，而不是它如何运作。两种选择都正当。她的选择造就了更好的惊悚故事，也造就了更弱的观念史。

讲述的方式

Hao 为悬念而写，我很欣赏这一点。这些故事彼此交织，在人性层面上又如此有趣，值得被当作一出戏来讲：Rosewood 晚宴，Musk 在 2018 年的最后通牒与离开，Bill Gates 先被 GPT-2 的演示打动、又被通过他那场生物考试的 GPT-4 折服，Amodei 兄妹带着 GPT-3 团队的三分之一离开、创立 Anthropic，还有 ChatGPT 本身。它在 2022 年 11 月因为一个传言而被匆忙推出，传言说 Anthropic 即将发布一款聊天机器人；它在内部被定位为一次「低调的研究预览」，员工们下注打赌，周末会有几千人还是几万人来试用。五天之内，它就有了一百万用户。

结构对读者就没那么友好了。全书分为四个部分，大体按顺序推进，但有好几段时间被讲了两遍。第 2 章和第 3 章把 2015 年到 2019 年讲成一个机构的故事，第 5 章又回过头去，把这几年再讲一遍，讲成研究的故事。第 4 章完全离开 OpenAI，写了一篇从轧棉机到达特茅斯再到深度学习的 AI 史随笔。第 9 章在 2021 年的肯尼亚、委内瑞拉的崩溃、哥伦比亚和 2023 年的内罗毕之间来回穿梭。第 13 章又从华盛顿一侧重新讲述 2023 年。读过 Mallaby 严格按时间顺序的叙述之后，我有时会弄不清自己身处时间线的哪个位置。这没有让我停下来，但如果书末附一份时间线或人物表会有帮助，而这本书两样都没有。

押注语言

一些最好的材料在第 5 章，讲的是造就 GPT 的那些决定。Hao 报道说，Ilya Sutskever 在 OpenAI 内部的说法是「智能就是压缩」：一个被训练来生成令人信服的文本的模型，必须把它对世界的所知压缩成精华。随后 Dario Amodei 把研究当作一组押注的组合来管理，他保留下来的那个押注是 GPT-2，它代表了这个领域所说的「纯语言」假说：一个只用足够多的文本、别无其他来训练的系统，可以获得通用智能；与之相对的是「具身」假说，认为它还需要感知和行动。Amodei 逐渐认为，扩展语言模型也许是最快的路径，尽管很可能不是唯一需要的东西。

与 Mallaby 放在一起看，这是这十年里决定性的岔路口。DeepMind 2010 年的商业计划书否定了「语言是智能的表达」这一观点，Hassabis 多年来一直相信，模型必须在世界中行动才能理解世界。OpenAI 押了另一边，并赢下了第一回合。说压缩和纯语言是同一个赌注的两半，也就是「文本就够了」，这是我的解读，不是 Hao 的。她把一些员工为语言押注所做的论证，即拿海伦·凯勒和盲人作类比，称为「令人反感的」；在第 4 章里，她还论证说规模扩展是「一个自我实现的预言」，而不是自然规律。尽管如此，这本书还是把这个岔路口展示得很清楚。

前半部分的另外三段成了独立的笔记：一位中国研究员认为，在硅谷以外，没有人会在这东西还没有用途之前就为它出钱（A billion without a plan）；Altman 让人漆在办公室墙上的 Rickover 名言（One person can make a difference）；以及电影 Her 作为 OpenAI 对 AGI 应有之感的想象（The interface that disappears）。

使命如何移动

我会记得最久的一段在第 18 章「A Formula for Empire」。Hao 论证说，OpenAI 的使命像一个由三种成分构成的公式：它用宏大的抱负聚集人才，它通过让替代方案显得危险来聚集资本，而它又足够模糊，可以在公司需要时随时重新诠释。作为第三点的证据，她列出了这一使命在各个阶段被说成意味着什么，每一次都用公司自己的话：

这一章以 Altman 称赞一本拿破仑语录开篇，特别是拿破仑如何重新诠释大革命的口号来巩固自己的权力。这个类比很尖锐，Hao 也有意如此。我对这张表的解读不同。每一步在当时都有说得通的理由：训练变得昂贵，所以非营利组织需要资本；资本需要回报，所以模型需要一门生意；竞争者出现了，所以这门生意需要速度。2015 年的理想主义不是被某一个决定抛弃的。它是被算力、金钱和竞争的现实一步一步磨损掉的，每一步都合情合理，而做出这些步骤的人大多仍然相信自己在为它服务。这是一个比其中任何一个人都更大的过程，包括 Altman 在内；我猜想，换成任何一位创始人，它都会发生。

同样的过程也出现在第 11 章一个更小的故事里。在 2020 年的一份备忘录中，Altman 希望 OpenAI 保持「小、专注、高信任、少扯淡、高强度」；到 2022 年底，他主张新招聘不超过一百人左右，而其他高管想要的是这个数字的五倍。2022 年 10 月的一次外出会议时，OpenAI 大约有 300 人，一年后已接近 800 人。每一个大的群体，最终都会把越来越多的工作花在维系自身上，部委如此，公司亦然；我把自己对这一观察的版本写在了 Small, focused, high-trust 里。

我与它分道扬镳之处

Hao 的立场很清楚，她在作者说明里也直说了：这本书「不是一本企业书」，而是「一次关于权力的沉思」，她深入了世界各地承受 AI 代价的社区。在序章里，她把这个隐喻说得很明白。AI 公司是殖民意义上的帝国：它们攫取不属于自己的资源，剥削他人的劳动，再用现代性的观念和与敌对帝国的竞赛来为之辩护。这造就了诚实的报道，但在某些地方，也让这本书读起来更像是一份针对打造 AI 之人的控诉，而不是对他们的叙述。好几章关于代价由别处承担的内容，篇幅超出了它们要表达的意思，本可以更精炼。

其中有一章我不会删。第 7 章「Science in Captivity」讲的是 Timnit Gebru，一位生于埃塞俄比亚的研究员，十几岁时作为厄立特里亚难民来到美国，后来共同领导 Google 的伦理 AI 团队。她曾与 Joy Buolamwini 合写「Gender Shades」，表明商业人脸分析在肤色较深的女性身上出错最多。GPT-3 出现时，她警告说，一个用 Reddit 和 Common Crawl 其余部分训练的模型会吸收其中的毒性；她还与 Emily M. Bender 合写了「On the Dangers of Stochastic Parrots」。Google 命令她撤回这篇论文。她提出了条件，并表示如果条件得不到满足她就会离开；2020 年 12 月 2 日，Google 告诉她，公司立即接受她的辞职，而她宣布自己被解雇了。Hao 更大的论点关乎科学：在这件事之后，也在 ChatGPT 之后，这个行业不再公布其模型是用什么训练的，而如果看不到训练数据，就无法诚实地检验一个模型。我记得 GPT 早期的那场争论，当时人人都在谈论权重里的偏见。在我自己的工作中，这个问题此后已经退居其次：一个在回答之前先用工具查找事实的模型，答对的次数远远多于一个仅凭权重作答的模型。这不等于权重里没有偏见，但它改变了偏见有多要紧。无论如何，Hao 关于封闭训练数据的论点都站得住。

关于智利的那一章「Plundered Earth」（第 12 章），我读得很艰难。Hao 透过智利的殖民历史、芝加哥男孩、皮诺切特的私有化、不平等以及 Gabriel Boric 的当选来讲述智利，并把它归入那些为帝国供应铜、锂、土地以及圣地亚哥周边数据中心用水的全球南方国家。我很喜欢智利，在那里也有认识的人；这只是看这个国家的一种视角，而不是它的全貌。在联合国人类发展指数上，智利在拉丁美洲排名第一。它的政府招揽数据中心，是因为它想要这笔投资；而 Hao 自己的报道也展示了一个自己做决定的国家：Cerrillos 的一次公投，一个在 2024 年裁定 Google 不能在圣地亚哥建造水冷数据中心的环境法院，以及一个如今请活动人士一同参与起草数据中心战略的部委。按全球标准，智利是建设数据中心和矿山的合理之地，而在漫长的干旱中，用水是一个正当的关切。在这里，Hao 的消息来源比她的框架更审慎。原住民活动人士 Sonia Ramos 说她的祖先就是矿工，问题在于规模；乌拉圭研究员 Daniel Pena 对数据中心也是这么说的。

规模正是我与它分道扬镳之处。Altman、Hassabis 等人所下的赌注是：把世界的资源花在打造更多智能上，终将得到回报，因为它能解决没有它我们就解决不了的问题。能源是其中最大的一个。Hao 报道说，Altman 喜欢说，他那些最大的数据中心的能源问题，会随着核聚变的突破而自行解决，而聚变公司 Helion 是他个人最大的一笔投资。她引用一位研究员的话，称「AGI 将解决我们的环境问题」这一说法无法证明。确实如此。它也可能是错的。但这是一个连贯的策略，它值得得到比这本书给予的更多的同情。帝国从定义上并不是净负面的。集中在少数人手中的权力让伤害成为可能，这值得讨论；问题在于权力积累起来之后用它做什么，而不在于积累本身。我在 A billion without a plan 里就资本提出过这个论点的一个版本。

帝国如何衰落

尾声给出了 Hao 的替代方案。Te Hiku Media 是新西兰最北部的一家毛利语广播电台，它用社区在知情同意下捐出的 310 小时录音，为毛利语打造了第一个语音识别模型，并在自己的两块 GPU 上完成训练。Hao 把它与 OpenAI 的 Whisper 对照，后者用从网上取来的 68 万小时音频训练。接着，她借用斯坦福研究员 Ria Kalluri 一次演讲中的说法，提出了权力的三条轴：知识、资源和影响力。在她的叙述中，AI 公司通过集中人才、侵蚀开放科学、把模型封闭起来不受审视来控制知识；通过聚集资金、数据、劳动、算力、能源和土地来控制资源；又通过意识形态和俘获全世界想象力的演示来控制影响力。她对第三条轴开出的药方是公众教育，并以 ELIZA 的创造者 Joseph Weizenbaum 的话作结：一旦一个程序的内部运作被解释得足够浅白、让人能够理解，「它的魔力便土崩瓦解。」

这三条轴是一个有用的视角，我会用它。Te Hiku 是一个好故事，用人们自愿提供的数据训练的小模型，是未来的一部分。我认为最重要的那个细节很容易被忽略：Te Hiku 买了自己的 GPU，因此不依赖任何科技巨头的云。对硬件的所有权，是资源这条轴上普通人真正能够改变的那一部分。

训练定制模型是其中一种方式。运行模型是另一种，而每当有人向模型提问，就有越来越多的算力花在这里。这正是我在 Archipelag.io 上着力解决的问题：一个让 AI 任务运行在由个人和社区而不是少数超大规模云厂商运营的 GPU 上的网络，优先选择就近的主机，并记录每个任务在哪里运行。它目前处于公开测试阶段，也不会去训练下一个前沿模型。但它让人们拥有运行 AI 的基础设施的一部分，而不只是租用访问权，并带来所有权所附带的东西：为提供主机的人带来收入，让数据离家更近，也没有哪一个房东能单方面改变条款。网络为出版做了同样的事。在它之前，要触达受众需要一台印刷机或一张广播执照；在它之后，任何有电脑的人都能发布一个网页，而网络正是从数以百万计的人做这件事中生长出来的，正如我在关于 Tim Berners-Lee 回忆录的书评里写的那样。分布式的公民算力，是在推理上迈出的同样一步。

我完全赞同这个药方：解释这些系统如何运作，是任何人能做的最好的事，也是这个网站努力在做的事。我与它分道扬镳之处在于：这种诊断把集中本身当成了问题，并把小模型当作大模型的替代品，而不是补充。

谁应该读它

任何对 Sam Altman、OpenAI 以及这项技术背后的人和纷争感兴趣的人，最好在读过 The Infinity Machine 之后再读，因为那本书解释了 Hao 大多视为理所当然的技术。书中的细节非同寻常，我从中带走的值得记住的掌故，比今年读的大多数书都多。我希望它能更聚焦一些：以 Hao 接触 Altman 身边之人的程度，一本只写人物、更紧凑的书会更加宏大。

留在我心里的，是 Hao 当作批评来拉出的一条线索。这本书以两段题词开篇：Weizenbaum 关于一旦被解释便土崩瓦解的魔力，以及 Altman 博客里的一句话。在第 10 章里，她写道，末日派和繁荣派在宣讲同一本圣经，一个讲地狱之火，一个讲天堂。在第 18 章里，她又回到 Altman 2013 年的那句话：最成功的创始人着手创造的是「某种更接近宗教的东西」，而公司原来是实现它最容易的方式。在第 17 章里，她引用他在一档播客中的话，说「智能不过是物质的一种涌现属性」，并把它当作炒作。我认同这一信念，并在 An emergent property of matter 里写过它。Hao 把宗教视为警示信号，我却把它看作对这些公司正在变成什么的诚实描述。随着人类劳动的价值下降，维系它们的将越来越少是它们付钱购买的工作，而越来越多是它们所相信的东西。OpenAI 是最早的一批之一，而它的使命还会继续移动。