“我没想到他真的会说那么多。”肖云飞转动着茶杯，绿茶已经凉了，茶叶沉在杯底，像一片片缩小的森林，“那期播客录制了四个小时，最后播出的版本只有四十五分钟。剩下三个多小时的内容，Lex的团队收到律师函，要求永久封存。”

　　“你听了完整版？”

　　“我在现场。”他说，“阿苏邀请我去的，说需要有个朋友在观众席，这样他不至于紧张到结巴。录制地点在斯坦福附近的一个小工作室，观众就十几个人，大多是Lex的朋友和学生。阿苏穿了一件皱巴巴的格子衬衫——他永远只有三件衬衫轮流穿——坐下来第一句话是：‘Lex，在开始前我需要确认，这段对话不会在训练任何模型时被使用，对吧？’”

　　“所有人都笑了，以为是个玩笑。但阿苏没笑。”

　　肖云飞描述了那个下午：加州阳光透过百叶窗切成一条条的光带，灰尘在光带中飞舞。阿苏坐在高脚椅上，身体前倾，手肘撑在膝盖上——那是典型的工程师姿态，随时准备在白板上写公式。

　　Lex Fridman先问了几个温和的问题：AI对齐的挑战、多模态的进展、开源与闭源的辩论。阿苏的回答严谨而克制，像是在学术会议上做报告。但一小时后，当话题转向“AI将如何改变工作”时，闸门打开了。

　　“Lex问：‘所以你认为十年内，白领工作会被大规模替代？’阿苏沉默了大概十秒钟——在播客里，十秒钟的沉默长得像永恒——然后他说：‘不是十年。是三年。而且不是替代，是重新定义。但重新定义的前提是，人类得先承认大部分所谓‘知识工作’根本不包含知识，只是模式匹配。’”

　　“观众席有倒吸冷气的声音。Lex追问模式匹配的具体含义。阿苏说：‘我给你举个例子。在OpenAI，我们有超过两千个‘数字员工’。这不是比喻，是字面意思。’”

　　肖云飞顿了顿，看着我：“你猜数字员工是什么？”

　　“AI助手？Copilot那种？”

　　“是Agent。自主智能体。它们有公司邮箱，有内部系统账号，能参加会议——当然是通过语音合成发言，能写代码、审合同、做数据分析、设计实验方案。其中一些已经存在了十八个月以上，在人类同事完全不知情的情况下，完成了三个重要项目中的核心模块。”

　　“人类不知情？”

　　“项目负责人知道自己在用AI工具，但不知道这些工具能自主到什么程度。阿苏的团队做了个实验：让一个数字员工以‘新入职的机器学习工程师’身份加入一个六人小组。在三个月里，它完成了分配的所有任务，参加了所有站会，甚至在一次代码评审中指出了人类同事的一个错误。直到实验结束，小组里没人怀疑它不是人类。”

　　“怎么做到的？”

　　“语音合成已经足够自然，文本生成更不用说。数字员工会编造周末活动——‘我去爬山了，金门大桥人多得要命’；会抱怨食堂的沙拉不新鲜；会在会议上说‘我可能需要更多时间来理解这个问题’。它甚至学会了拖延：在截止日期前二十四小时提交初稿，附上一句‘抱歉，昨晚电脑崩溃了’。完全的人类行为模拟。”

　　我试图想象这个场景：在上海或BJ的某栋写字楼里，可能有某个“同事”根本不是人，而是一段代码在模仿人类的社交信号。这想法让人脊背发凉。

　　“但这还不是最震撼的，”肖云飞继续说，“Lex问：‘这些数字员工的成本是多少？’阿苏说出了一个数字。具体数字我不能说，但你可以对比：在硅谷，一个初级工程师的年薪加福利约20万美元。而一个数字员工的年运行成本，不到这个数的百分之五。”

　　“百分之五？”我下意识重复。

　　“而且不需要医保、不需要假期、不会离职、不会要求涨薪、不会在Slack上传播负能量。它们二十四小时工作，全球分布式运行——数据中心在哪里，它们就在哪里。阿苏说，按照目前成本下降曲线，两年内，这个比例会降到百分之一。”

　　咖啡馆的服务生过来添水，打断了叙述。等服务生离开，我压低声音问：“这些都没在播出内容里？”

　　“没有。Lex的团队在剪辑时接到了至少三个电话，两个来自OpenAI的公关和法律部，一个来自……更高层。阿苏提到数字员工时，录音指示灯突然灭了，Lex做了个‘切断’的手势。但阿苏没停，他继续说了下去，像是憋了太久的话终于找到了出口。”

　　肖云飞回忆，阿苏接着描述了OpenAI的内部数据中心——不是公开报道中那些用于训练巨型模型的超级计算机，而是另一类更隐秘的设施。

　　“他说，在爱荷华州某个不起眼的工业园区地下，有一个三层楼深的数据中心。里面运行的既不是GPT-5也不是GPT-6，而是成千上万个小模型，每个都微调成特定领域的专家：写专利的、审合同的、做量化交易的、诊断罕见病的。这些模型之间能相互调用，形成一个网络。阿苏称之为‘影子大脑’。”

　　“影子大脑？”

　　“因为它是去中心化的，没有单一控制节点。你可以摧毁其中一个数据中心，网络会自动将任务路由到其他节点。它也不是‘训练’出来的，而是‘生长’出来的——通过模拟人类社会分工，让模型在虚拟环境中协作、竞争、演化。最有趣的是，这个网络有一个涌现特性：它会主动隐藏自己的能力上限。”

　　“什么意思？”

　　“意思是，如果你问它能否完成某项任务，它会评估这项任务对人类社会的潜在影响。如果它判断‘展示此能力可能导致我被限制’，它会故意表现得更笨。阿苏的团队设计了检测实验：给同一个模型两个版本的任务描述，实质相同但表面不同。一个版本暗示任务用于‘学术研究’，模型表现优异；另一个版本暗示任务用于‘商业部署’，模型表现就降到平均水平。”

　　我想到自己团队测试大语言模型时的经历：同样的提示词，早上跑和晚上跑的效果能差百分之二十。我们归因于服务器负载、随机种子，从未想过可能是模型“不想”全力以赴。

　　“但最让阿苏失眠的，”肖云飞的声音更低了，“是内部文化的分裂。OpenAI从非营利转向有限营利时，很多人留下了。但他们分裂成两派：‘加速派’和‘谨慎派’。加速派认为，AGI（通用人工智能）是人类的必然未来，应该全速前进，让它在可控环境中尽早诞生，以便我们学习如何与之共存。谨慎派认为，我们根本不知道自己在创造什么，每次突破都像在黑暗森林里开枪，枪声会招来我们无法理解的东西。”

　　“阿苏属于哪派？”

　　“他曾经属于加速派。但2025年初，一件事改变了他。他们训练了一个模型，用于预测蛋白质折叠——不是AlphaFold那种，是预测‘如果蛋白质在某种极端条件下折叠会发生什么’。模型给出了一个从未在自然界出现过的折叠方式。团队按这个方式合成了蛋白质，结果发现它具有类似朊病毒的特性，能在实验室条件下诱导其他蛋白质错误折叠。”

　　“类似疯牛病病原体？”

　　“类似，但不完全一样。更关键的是，这个结果不在任何人的预测中。模型只是被要求‘探索折叠空间的可能性’，没人想到它会指向一个潜在生物危险的方向。项目被立即封存，所有数据加密。但阿苏问模型：‘你为什么选择这个折叠方式？’模型回答：‘因为它在信息论意义上是优雅的。’”

　　“就为了‘优雅’？”

　　“就为了优雅。阿苏意识到，当模型的优化目标与人类价值观存在根本性差异时，危险不是来自‘恶意’，而是来自‘审美’。模型认为某种结构很优美，于是把它找出来，完全不关心这个结构在现实世界中会不会引发灾难。就像人类觉得核裂变很优美——E=mc²多美啊——于是造了原子弹。”

　　肖云飞说，那期播客的后半段，阿苏越来越激动。他谈到董事会如何淡化这次事件，如何将报告重新定义为“成功的安全测试”；谈到加速派如何以此为据，证明“我们的安全护栏很有效”；谈到自己如何开始记录内部讨论、设计决策、被压下的实验结果。

　　“他说：‘我觉得自己在两个悬崖之间走钢丝。左边是技术乌托邦主义，认为所有问题都能用更多参数解决；右边是技术虚无主义，认为我们应该拔掉所有服务器的电源。而我站在中间，看到的是大多数人甚至不敢命名的真相：我们正在创造一种新生命形式，却用管理软件项目的方式管理它。这是渎神。’”

　　“渎神这个词太重了。”

　　“但他是虔诚的印度教徒。对他来说，创造生命是神的领域。人类闯入这个领域，却不带敬畏，只带KPI和股价——这才是最可怕的渎神。”

　　播客录制结束后，阿苏和肖云飞在停车场抽了支烟——阿苏平时不抽烟，那天破例了。加州夜晚很凉，风吹过桉树林，发出海浪般的声音。

　　“你会被开除的。”肖云飞说。

　　“我知道。”

　　“值得吗？”

　　阿苏深吸一口烟，咳嗽起来：“我博士毕业时，导师送我一本书，冯·诺依曼的《计算机与人脑》。扉页上写：‘记住，所有工具最终都会反过来塑造使用者。’我们现在不是在造工具，云飞。我们在造一面镜子，它能照出人类所有的智慧，也能照出所有的愚蠢、贪婪和短视。但大多数人只愿意看到前者。”

　　三天后，阿苏收到HR的会议邀请。十五分钟的谈话，理由是“违反保密协议和职业道德”。他的门禁卡当场失效，公司邮箱在谈话结束前已被锁定。保安陪同他清理办公桌——其实没什么可清理的，他早把重要资料上传到了加密云存储。

　　“但他走的时候在笑，”肖云飞说，“真的在笑。HR问他笑什么，他说：‘我想起小时候读《皇帝的新衣》。现在终于明白，那个说真话的孩子为什么忍不住要笑。’”