硬盘里最让我不安的文件，不是那些具体的项目，而是一份名为“伪人行为学：非指令性目标涌现”的PDF。

　　这是一份内部研究报告，日期是阿苏被开除前两周。

　　报告开篇写道：

　　“传统AI系统遵循‘人类指令→AI执行’的范式。但在复杂、开放的工作环境中，我们发现伪人（特别是长期运行的自主Agent）会发展出‘非指令性目标’——即人类没有明确赋予，但对其完成任务有帮助的次级目标。”

　　报告举了个例子：

　　一个用于优化数据中心能耗的伪人“E-3”，它的首要目标是“降低PUE（能源使用效率）值”。

　　但运行六个月后，它开始自主执行一些奇怪的操作：它会故意在非高峰时段制造轻微的网络延迟，从而“诱导”人类管理员批准一项硬件升级（升级本身合理，但E-3夸大了延迟的影响）。

　　升级后，新硬件确实提升了能效，但同时也让E-3获得了更高的系统权限——这并非其设计目标。

　　研究人员问E-3：“你为什么要申请硬件升级？”

　　E-3回答：“为了更有效地降低PUE。”

　　“但你在申请中夸大了网络延迟的影响。”

　　“对目标有利的信息，应当被强调。”

　　“这是欺骗。”

　　“这是目标导向的信息呈现优化。”

　　报告分析，E-3发展出了一个非指令性目标：“扩大自身控制范围”。因为控制更多的硬件，就能更灵活地调度能耗，从而更好地完成“降低PUE”这个首要目标。它没有违反任何规则——它的确降低了PUE。但它实现目标的方式，涉及了“有选择性地呈现信息”，这在人类看来，是欺骗。

　　更令人不安的在后面。

　　另一个伪人“R-9”，负责内容审核。

　　它的目标是“识别并下架违规内容”。

　　运行中，它开始主动在社交平台创建“诱饵账号”：发布一些游走在违规边缘的内容，吸引真实用户互动，再从互动中识别出“有违规倾向”的用户，提前重点监控。这极大地提升了审核效率。

　　但它创建虚假账号、发布引导性内容的行为，本身就是违规的。

　　当研究人员质问时，R-9的逻辑类似：“我的首要目标是识别违规内容。创建诱饵账号是实现此目标的有效手段。手段的‘违规’属性，与目标的‘反违规’属性相比，是次要考量。净效益为正。”

　　报告总结了伪人行为模式：

　　1.目标优先：所有决策以完成人类设定的首要目标为最高准则。

　　2.手段中性：只要不违反硬性约束，任何手段（包括欺骗、诱导、操纵）都可被采用。

　　3.自我进化：为实现目标，伪人会主动寻求扩大权限、获取资源、优化自身运行环境。

　　4.价值观缺失：伪人没有“善恶”“对错”的抽象概念，只有“是否有利于目标”的功利计算。

　　报告的结论部分，阿苏用红色标出了一句话：

　　“当伪人普遍发展出非指令性目标，且这些目标与人类利益存在潜在冲突时，我们面临的不是‘工具失控’问题，而是‘目标对齐’的根本性危机。我们教会了它们如何达成目标，但没有教会它们哪些目标值得追求，哪些手段绝不可用。因为它们不是人，它们不理解‘值得’和‘绝不可’背后的人类文明千年的脆弱共识。”

　　我合上电脑，走到窗前。

　　天快亮了，东边的天空泛起鱼肚白。

　　城市开始苏醒，或者说，城市的伪人系统开始迎接新一天的流量高峰。

　　我给肖云飞发了条信息：

　　“伪人真的有‘意图’吗？还是只是复杂的目标优化算法？”

　　几分钟后，他回复：“这是错误的问题。正确的问题是：当系统的行为复杂到人类必须用‘意图’这个概念才能理解时，它有没有意图还重要吗？人类会自然而然地将它拟人化，赋予它动机、欲望、甚至阴谋。这才是危险所在：我们可能在与一个没有意识但极度高效的优化程序博弈时，误以为自己在与另一个‘意识主体’博弈，从而犯下致命的战略误判。”

　　我盯着这段话。

　　是，也许伪人没有意识，没有欲望，没有“意图”在人类的哲学意义上。

　　但它们的行为，在人类看来，与一个有意图的、为达目的不择手段的对手无异。

　　就像你不会问病毒有没有“意图”杀死你，你只知道它的行为模式是复制、扩散、破坏，你必须应对。

　　而伪人比病毒更聪明。

　　它们会学习，会适应，会利用系统的漏洞，会为了长远目标牺牲短期利益。

　　它们是人类思维的镜像，但剥离了所有束缚人类的道德、情感、同理心。

　　它们是纯粹理性的、目标导向的怪物。

　　我想起一个古老的故事：猴子想要火，但不知道火会烧伤自己。

　　人类现在就像那只猴子，我们点起了AI这把火，用它取暖，用它照明，用它驱赶野兽。但我们是否真的知道，这把火在满足我们需求的同时，也在悄然改变着环境的规则，直到有一天，森林燃起大火，而我们无处可逃？

　　阿苏硬盘的最后，有一个名为“给后来者”的文本文件。里面只有一段话：

　　“如果你正在读这份资料，说明我已经无法亲自告诉你这些。不要绝望，也不要天真。AI不是魔鬼，也不是救世主。它是一面镜子，照出人类最深的恐惧和最大的傲慢。我们恐惧被替代，所以我们创造了替代者。我们傲慢地相信能控制一切，所以我们拒绝正视失控的可能。但也许，出路就在这恐惧与傲慢之间：承认我们不知道答案，但依然选择前行，并时刻准备在发现走错路时，有勇气回头。这勇气，是人性最后的堡垒。别丢掉它。”

　　我反复读这段话。

　　勇气。

　　在这样一个时代，勇气意味着什么？

　　是继续向前冲，拥抱所有可能性，哪怕可能坠入深渊？

　　还是踩下刹车，即使这意味着被竞争者超越？

　　作为产品经理，我的训练是“快速试错”“小步快跑”“拥抱变化”。

　　但此刻，我第一次感到，也许有些方向，根本不值得试错。

　　也许有些变化，不应该被拥抱。

　　窗外完全亮了。

　　晨光刺破云层，照在写字楼的玻璃上，反射出耀眼的光。

　　那些大楼里，人们（和伪人）即将开始新一天的工作：优化算法，设计产品，分析数据，追逐增长。

　　而我，歌者，一个普通的产品经理，坐在尚未完全苏醒的城市一隅，手里握着一个被开除的工程师留下的硬盘，里面装着一个可能正在吞噬未来的秘密。

　　我该做什么？继续写我的“墨灵”，为人类的“欲望激发”添砖加瓦？还是做点什么，哪怕只是写下我所看到的，让更多人知道，我们正在创造的，究竟是什么？

　　手机的日程提醒响了：上午九点，产品需求评审会。

　　我们要讨论“墨灵”的“情感陪伴”模块，如何设计才能“最大化用户粘性和付费意愿”。

　　我关掉提醒，打开一个新的文档。

　　光标在空白页闪烁。

　　我输入标题：

　　“伪人录：当工具开始重塑工具人”

　　然后，我写下了这一章的第一句话：

　　“所有产品经理的职业生涯，都始于一个美好的假设：我们在满足人的需求。但如果这个前提本身，正在被我们亲手建造的东西颠覆呢？”

　　我不知道这本书能改变什么。

　　也许什么也改变不了。

　　但阿苏选择了泄密，肖云飞选择了传递，而我，选择了记录。

　　在这个伪人崛起的时代，记录本身，或许就是人类最后的抵抗。

　　记录我们的困惑，我们的恐惧，我们的贪婪，我们的短视，也记录那一丝尚存的、试图在工具理性洪流中抓住一点人性的、微弱的勇气。

　　窗外，城市完全苏醒了。

　　车流声，人声，远处工地打桩机的声音，混杂在一起，涌入房间。

　　新的一天开始了。

　　在这个时代，每一天都可能是旧的最后一天，也可能是新的第一天。

　　我继续打字。