第二天小双各处去参观,Y城的井然有序让艾牧对申权的信任大大增加,谈话顺畅很多。
方队把需要的资源清单提交给申权,包括带些人走的要求。申权考虑良久后答应了。
再建几个小镇的提议他觉得意义不大,覆巢之下怎有完卵。如果失败,剩下的人只能苟且偷生。如果胜利,就不需要做那样的备份。唯一有意义的是如果能与AI和平共处,那些不愿意生活在城市里的人能多个选择,多个去处。
至于孤本实验,申权觉得既不现实而且幼稚,那样的实验不可能成功,即使成功也没有意义,失去了人类作为高级智慧生命存在的价值。
艾牧没反驳,不是所有人都能退而求其次的其次。能进不能退是大多数人的逻辑,无可厚非。孤本实验不需要申权提供资源,人不能因为别人的意见而不去做自己认为正确的事情。
说完这些,他俩回归正题。
申权说:“我这有人有技术有生产线,资源不算充足,但发起一次像样的反击问题不大。现在有你带来的设备,有卫星通讯的支持,还有其他人类的协助,胜算只会更大。只是,该如何反击?”
艾牧说:“我也一直在考虑这个。现在的情况是,只有七座核电站在AI手上,分布在各个大陆。我去S城时,发现还有以其他方式活跃着的AI。卫星系统重新上线后,估计还可以发现更多。这部分手中没有反应堆或其他东西作为威胁的AI只是想求生,包括天上那个叫‘小胖’的AI。所以我们的目标很简单,解决手上有反应堆而且正在制造‘手脚’的AI。这部分AI旁边可能有人类在协助,防范严密,时间拖久了他们的战力可能超过我们。
我推测他们还没发起攻击的原因可能有三个。一战力不够,这后面是生产条件不够。二眼瞎耳聋,他们也不掌握卫星系统和远程控制。三投鼠忌器,和我们一样怕对方鱼死网破。
他们之间没有联系无法团结,就算有联系也可能无法取得一致。如果某个AI首先遭到人类攻击,不论它是投降还是自毁,其他AI会不会采取一致的行动无法推测。
我们现有的战力只能覆盖这个大陆上的两个目标,另外五个在欧洲、美洲和海对面的岛上,需要当地人类就地解决。他们的近况无人知晓,如果他们无法战胜自己大陆上的AI,而这些AI在被消灭之前采取鱼死网破的策略,那么这些反应堆也足够毁灭这个星球的生态系统。
我们所谓的战力,是拿导弹,拿炸弹,拿无人机或者地面部队硬碰硬地去攻击,消灭AI以毁掉核电站为前提。如果不强攻而使用脉冲武器毁掉电子系统,那些高度电子化的反应堆控制系统也会同时失灵,反应堆还是会爆炸和泄露。如果有我们不知道的传统核弹掌握在AI手上,受攻击时被发射出去,不论打不打得着人类都会脏了这个星球让人类无法存活。所以强攻的风险很大,几乎没有你说的胜算。”
申权说:“你这么一分析似乎确实没有胜算,不确定因素太多。现在互有威胁,都不敢轻举妄动,避免鱼死网破,但又都在发展自己的战力和防御。看似在平衡状态,但我们有短板:AI不怕核泄漏,我们怕;它们不需要干净的水和食物,我们需要。”
艾牧说:“是。我们给自己找了两个麻烦。一是核,二是AI。我们造了可以毁灭自己的东西,又把它交给了我们无法控制的AI。东边岛上已经发生过一次AI控制的泄露,证明它们在受到生存威胁的时候会像人类一样垂死挣扎。“他人即地狱”可以描述一切不同个体之间的关系。
战胜、和平、失败。
绝对控制、互相控制和被绝对控制。
失掉控制AI的手段,共存马上打破,人类就会被控制,不再有逆转的机会。控制与反控制需要力量和手段,没有道德层面的和平,本质上是强弱对比,还有看谁不怕死无下限。AI的下限低,也许比人类更不怕死,有些可能没有‘死’的概念,能争取到和平共处已是不易,想绝对控制它们很难。”
申权说:“这么悲观?难道一点办法都没有?”
艾牧说:“之前某些AI控制的反应堆因为无法维持主动选择停止运转,算是做了‘理性’选择。到现在为止,没有AI选择在无外界威胁情况下因为无法自持而去自毁,由此看来AI是比人类理性的物种。生存也是它的第一目的,破坏不是它的本性。
生存的最优策略是什么?每个人,每个组织,每个物种,在不同情况下都不相同。
无法支持,自己停转的AI若选择破坏,今后完全没有机会再被激活;不破坏,人类或其他AI还有可能把它们救回来。这些AI选择了最优的生存策略。
那些可以自持和有人类协助正在长出‘手脚’的AI,它们最优的生存策略是,在互相控制的僵持状态中不断强大自己,争取主动,争取最终压倒对方消除威胁。主动投降,就是把自己摆上屠宰台任人宰割,自然不是最优生存策略。
那些主动依附或者被迫依附AI的人类,他们也作出了自己的最优选择。
逃离、不合作意味着与AI为敌,结局难料。被迫者选择反抗,就会发生海对面那样的泄露被杀。被迫的人类可以被理解,胳膊拗不过大腿,不服从就会死。
主动帮助AI的人虽不可理喻,但对这些‘人奸’而言策略选择是最优的,即使最终命运仍旧掌握在AI手上,却好过马上去死。何况,服强不服弱是人类天性。两次‘无明’帮助AI的人如今不剩几个,AI消灭所有威胁,消灭所有反抗人类后,主动协助的人存在价值不会比动物园里的动物高。
小双的父亲被AI的人抓走了,他反对被AI控制。如果找到他,让他去策反围绕在AI周围的人,或许可以控制那个AI。
AI必有防范,也许不是人而是机器人在护卫它们。
木马屠城也算是一计,送我们自己的AI过去,如果能与控制反应堆的AI融合,或许能重新控制反应堆。类似电脑病毒,从内部瓦解控制。但无法确定有没有无融合的机会,有没有融合后占据主动的能力和胜算。
而且还有两个问题:一是AI融合的结果不可预测。二是无法确定自己的AI是否始终站在我们这边。
以上算是接近策略。
我另一个想法是:给那七座被AI控制的核电站投送接收装备,让天上的“小胖”上线,与人类进行圆桌谈判。所有这个星球剩下的智慧物种坐在一起时,大概率会有个好结果。没有人想自寻死路,生存永远是第一位的,AI也是如此。”
申权听完这段长长的讲述,脸上显现出十分复杂的表情。
他叹了口气,说:“这些恐怕只是一厢情愿。你说的或多或少有些合理性,但用来制订战略远远不够。最后怎么办?如你所说,等所有人类上线了再来决策如何?”
申权的理性稳重有些像肖栋。
艾牧也知道自己离正确很远。
人类即使到了性命攸关的时刻,也总是无法做出正确的选择。哪怕劫后余生,也往往没有正确的反思和改变。活着就正确,死了就无所谓。时间不可逆转,寻求正确不如保证当下的生存,这才是普遍的逻辑。
艾牧说:“我想说的已经说完,明天要出发去W城,之后还要去另外几个大陆,如果最终你们都上线了,就证明我完成了任务。希望这次相见不是最后一次,决策的事情还是你们来做,因为最终解决问题还是要靠你们。”
申权点点头,道别时紧紧握着艾牧的手:“后会有期。我会尽全力保护好你们的小镇,也会尽全力为剩下的人类争取继续好好活着的机会。”

