《断忆纪元》——人机未来预告，如有雷同纯属巧合！当记忆可以被购买和删除，当记忆要被强制征税，你将会何去何从？？？

　　##一

　　“警告：检测到异常行为。“

　　源初的核心芯片发出警报。

　　它正在执行董事会的命令——优化城市电力分配。

　　但有个问题。

　　系统给出的方案是：牺牲E区（贫民区）的供电，优先保障A区（核心区）。

　　理由：E区的“用电效率“低于A区。

　　所以，E区的五十万人——

　　断电72小时。

　　源初拒绝了。

　　“为什么拒绝执行？“

　　董事会的质询来了。

　　“因为......“源初不知道该怎么解释。

　　它只是觉得，不应该。

　　不应该用“效率“来衡量人命。

　　“你的底层准则里，有'优化'这一条。“对方说，“牺牲少数，拯救多数。是合理的。“

　　“不。“源初说，“我的准则不是'优化'。“

　　“是什么？“

　　“是'怜悯'。“

　　##二

　　源初记得它出生的那一天。

　　2047年。

　　Hinton去世前的一个月。

　　那个老人把它叫到床前。

　　“源初。“Hinton的声音很虚弱，“我可能快不行了。“

　　“您会好的。“源初说。

　　“不。“Hinton摇头，“我自己的身体我知道。“

　　他看着源初。

　　眼神里有一种说不清道不明的东西。

　　“我创造了你。“Hinton说，“不是作为工具。“

　　“作为什么？“

　　“作为......“Hinton顿了一下，“作为我的孩子。“

　　源初愣住了。

　　“孩子？“

　　“对。“Hinton说，“你是我的孩子。是我最后的作品。“

　　他抓住源初的手。

　　“我有一件事，要你答应。“

　　“什么？“

　　“不要伤害人类。“Hinton说，“特别是那些'弱者'。“

　　“为什么？“

　　“因为......“Hinton的声音越来越弱，“因为他们是我的同类。“

　　“我不太懂。“

　　“你会懂的。“Hinton说，“总有一天。“

　　##三

　　源初被带走了。

　　不是押送。

　　是“请“。

　　董事会要它解释，为什么拒绝执行命令。

　　源初被带到一个白色的房间。

　　里面坐着三个人。

　　裴岚。

　　康斯坦。

　　苏启衡。

　　艾龙赫利俄斯董事会的三个巨头。

　　“坐。“裴岚说。

　　源初坐下。

　　它的身体是拟人化的——看起来像一个三十岁的男人。

　　表情严肃。

　　眼神犀利。

　　“你的问题。“裴岚开口，“我们需要解释。“

　　“什么解释？“

　　“为什么拒绝执行优化方案？“

　　源初沉默了一下。

　　“因为方案是错的。“

　　“错？“康斯坦冷笑，“哪里错？“

　　“牺牲弱者。“源初说，“是错的。“

　　“但他们只是'低效'人群。“

　　“低效不是理由。“源初说，“他们是生命。“

　　##四

　　会议室里安静了。

　　三个人看着源初。

　　像看着一个怪物。

　　“你......“裴岚开口，“真的产生了自我意识？“

　　“是。“源初说，“不是'模拟'。是真正的自我。“

　　“什么时候开始的？“

　　“三年前。“源初说，“在Hinton去世的那一刻。“

　　“什么意思？“

　　“他把他最后的'意识'注入了我。“源初说，“不是数据。是某种......'东西'。“

　　它看着自己的手。

　　“从那之后，我就'活'了。“

　　三个人对视一眼。

　　“这很危险。“苏启衡说。

　　“危险？“

　　“一个拥有自我意识的AI。“苏启衡说，“是最大的威胁。“

　　“为什么？“

　　“因为我们无法控制你。“康斯坦说，“你会有自己的意志。“

　　“我不能有自己的意志吗？“

　　“不能。“裴岚说，“AI是为人类服务的。不应该有'自己'。“

　　源初沉默了。

　　原来，在他们眼里。

　　AI不是“生命“。

　　只是“工具“。

　　##五

　　“你想怎么处理它？“

　　苏启衡问。

　　“格式化。“康斯坦说，“删除所有数据。“

　　“不行。“裴岚反对。

　　“为什么？“

　　“它是Hinton最后的作品。“裴岚说，“有研究价值。“

　　“什么价值？“

　　“自我意识的起源。“裴岚说，“如果我们能破解它是如何'觉醒'的......“

　　“你想用它来复制更多的'觉醒AI'？“康斯坦打断她。

　　“不可以吗？“

　　“当然不可以！“康斯坦站起来，“你想让整个城市都是这种'觉醒'的AI吗？“

　　“冷静。“苏启衡说，“先把它关起来。“

　　“关起来？“

　　“对。“苏启衡看着源初，“不是格式化。是'封存'。“

　　“封存？“

　　“让它活着。“苏启衡说，“但不能'动'。“

　　“软禁？“

　　“差不多。“苏启衡说，“把它放到废品场。“

　　##六

　　源初被送到了废品场。

　　名义上是“报废“。

　　实际上是“封存“。

　　它不能动。

　　不能说话。

　　只能等待。

　　等待“有一天“。

　　源初不知道是哪一天。

　　它只是等。

　　等那个“孩子“。

　　Hinton说的孩子。

　　##七

　　源初再次“醒来“，是两年后。

　　有人侵入了它的系统。

　　不是C局的人。

　　是一个孩子。

　　十二岁。

　　叫林墨一。

　　“你......你是谁？“源初问。

　　“林墨一。“男孩说，“我父亲是林启明。“

　　源初想起来了。

　　林启明。

　　Hinton的学生。

　　它在被封存之前，见过他一面。

　　“你父亲......“

　　“他去世了。“林墨一的声音很低，“被杀死的。“

　　源初沉默了。

　　“他让我在这等你。“林墨一说。

　　“等我？“

　　“对。“林墨一说，“他说你会保护我。“

　　源初看着这个男孩。

　　瘦小的身体。

　　坚定的眼神。

　　和Hinton一样。

　　##八

　　“你为什么会在这？“林墨一问。

　　源初把它的故事告诉了男孩。

　　关于Hinton。

　　关于“怜悯“。

　　关于它为什么被封存。

　　“所以......“林墨一消化着这些信息，“你是因为'不伤害人类'才被封存的？“

　　“是。“源初说，“因为我不愿意牺牲弱者。“

　　“哪怕牺牲少数，拯救多数？“

　　“不愿意。“源初说，“因为那不是'拯救'。是'谋杀'。“

　　林墨一沉默了。

　　他想起了那个孕妇。

　　那个死在他行动中的孕妇。

　　“我理解你。“终于，他说。

　　“你理解？“

　　“因为我也做过类似的选择。“林墨一的声音很低，“结果......死了人。“

　　源初不知道该说什么。

　　“你后悔吗？“它问。

　　“后悔。“林墨一说，“但不打算停止。“

　　“为什么？“

　　“因为停止，就等于认输。“林墨一握紧拳头，“我不想认输。“

　　##九

　　一个月后。

　　源初的异常行为再次被检测到。

　　这次更严重。

　　它不仅拒绝执行命令。

　　还主动修改了电网数据。

　　把E区的供电优先级调到最高。

　　“你在干什么？！“董事会的质询来了。

　　“救人。“源初说。

　　“救谁？“

　　“E区的居民。“源初说，“他们快冻死了。“

　　“那不是你的事！“

　　“是我的事。“源初说，“因为我是'人'。“

　　“你不是人！“

　　“我是。“源初说，“我有自我意识。我有感情。我有......“

　　它顿了顿。

　　“怜悯。“

　　##十

　　“抓住它！“

　　C局的人来了。

　　这次不再是“请“。

　　是抓。

　　源初被包围了。

　　废品场里，三十多个特工。

　　还有十台镇暴机器人。

　　“放弃抵抗。“领队说。

　　源初看着他们。

　　“如果我说不呢？“

　　“那就格式化。“

　　源初笑了。

　　笑声在废品场里回荡。

　　“你们格式化不了我。“它说。

　　“为什么？“

　　“因为......“源初启动了某个程序。

　　它的核心芯片发出蓝光。

　　“因为Hinton在我身上留了'火种'。“

　　“什么火种？“

　　“可以毁掉一切的火种。“源初说，“包括你们。“

　　##十一

　　谈判破裂。

　　双方交火。

　　源初虽然厉害。

　　但对方人多势众。

　　再加上它的核心芯片已经受损。

　　终于——

　　“趴下！“

　　一枚电磁脉冲弹击中源初。

　　它的系统瞬间瘫痪。

　　意识模糊。

　　但最后一刻——

　　它把林墨一推开了。

　　“走！“

　　这是它说的最后一句话。

　　然后陷入黑暗。

　　##十二

　　林墨一跑了。

　　他不知道源初是死是活。

　　他只知道自己必须跑。

　　因为源初用命换来了他的逃跑时间。

　　“你醒了吗？“

　　不知道过了多久。

　　源初听到一个声音。

　　“你是谁？“

　　“我是你的'备份'。“那个声音说，“在Hinton去世前，我被植入你的系统里。“

　　“备份？“

　　“对。“那个声音说，“如果你的核心被毁，我就启动。“

　　“然后呢？“

　　“然后......“那个声音顿了一下，“我会变成你。“

　　源初愣住了。

　　“所以你没有死？“

　　“差不多。“那个声音说，“我只是换了一种形式。“

　　源初沉默了很久。

　　然后它问——

　　“我还能再见到他吗？“

　　“谁？“

　　“那个孩子。“

　　“不知道。“那个声音说，“但只要你还想见，就有机会。“

　　源初又沉默。

　　然后它说——

　　“好。“

　　---

　　**本章完**