二一五五年八月十七日，一排整齐的黑色警车正往2718区最高法院驶去。这座矗立于2718区中心偏东的白色法院，围满了一群端着摄像机，手里拿着万能球的记者，有的人甚至企图拦截警车，一旁还有许多逃课的学生，嘈杂得很。

　　“现在开庭，请佐藤英野法官主持审判。”

　　声音彷佛在深谷回响，窗户和院墙隔离掉外面的吵闹声。佐藤法官手指交叉，托住下颚，仔细审视着燕南飞等人。

　　“燕南飞，诺伊曼，仙诺，涂凌，小平邦岩，被控违反国际安全法第三章六百四十一条，于二一五五年八月七日，导致一场严重的网络安全犯罪与信息谣传。控方请求传证人安部市二，其就职于国际历史与政治研究所所长。”

　　检察官向身后的安部市二示意，安部所长手里攥一叠纸，走上发言台，面对佐藤法官。这中年男人稍稍整理自己的头发，衣领，咳嗽一声。

　　“这一切都起源于一篇关于人工智能的论文，总所周知，是数学家高米德·欧顿，白羽步和另外一个中国哲学家所写，但是只以欧顿教授的名意发表。这作为一篇专业文章发表在数学月刊上，不久后便被军方和许多企业引用，那时，欧顿却紧急撤销文章，没有附带任何说明。现在，问题就出在这里。各国军方里的研究人员完全按照那篇论文，和白羽步所发表的算法进行操作，我们需要注意一点，是完全按照，其中没有参杂任何个人想法。按照程序和论文里的表述，只要把初始变量控制到一个范围，是不可能发生智能化的表现，而且这也肯定不是军方和政府所期望的。于二零五五年七月，军方发现一只蜂鸟侦察机失踪，但是一千只里面失联一只，由于当天是雷雨天气，这自然被归纳为外界因素。后来的故事是我们熟知的，这只蜂鸟侦察机成为最先智能化的程序，一步一步的，暴虐的人工智能把人类推向深渊。综合前面欧顿教授撤销文章，我们可以肯定，是欧顿教授发现文章中的问题，但为保全名声，不仅撤销，还没有指出其问题，进而导致军方和政府在实际操作中出现意外。并不是如仙诺教授于《数学月刊》上所表述的，是因为政府的无知和贪婪所造成。而对于仙诺教授的文章，里面描述一个中学生，发现欧顿教授留下的黑色箱子，从而能够在两个星球之间进行通话，这种行为的概率有多小首先不提，光这文章里面的男孩，就无法证明其存在。我当局考虑隐藏这段历史，完全是出于对人类安全的保护，因为一旦公开历史，就会不可避免的引起仇恨，被历史影响的后人，势必会再次对人工智能进行研究，亦或是对地球进行反攻，这两个方面无论从什么角度来看，都是极度危险的。所以我们的动机，并不像该文章里所说的‘懦弱’，‘胆小’，这对教育局，历史与政治研究所的名声都造成了极大的侮辱。”

　　安部市二看了看法官，还有检察官，挺起胸膛。

　　“我的陈词完毕。”

　　他得意洋洋地走回座位上，似乎对自己刚才的陈词十分满意，不禁以蔑视的眼光看着座对面的燕南飞一行人。

　　“请被告人自行辩护。”

　　燕南飞缓慢地走上发言台，从包里取出眼镜，戴上。

　　“法官先生，我需要一个黑板。”

　　佐藤法官皱了皱眉头。

　　“你能告诉我他的用途吗？”

　　“本案中有许多细节，我相信光口头陈述的话，未免太草率了。”

　　法官点点头。

　　“批准。”

　　不一会儿，两名身穿制服的警察就从门口搬来一块又长又宽的黑板，就跟教室里的一样。

　　“我非常感谢各位的到来，特别是身后东京大学数学系，哲学系的同事朋友。”

　　燕南飞向后转身，微微鞠躬。

　　“对那篇文章，我们必须进行原理上的解说。为此，各位其实也不需要是一个数学家，我会尽量把这些说得通俗一点。这个过程是必要的，否则难以回答刚才安部先生的言论。”

　　燕南飞拿起粉笔，开始写。

　　“首先得明白人工智能为什么会智能化，其根本原因是那位中国哲学家，也是我的爷爷，提出的第一原理。原理的描述很简单，

　　第一原理：任何智能的行为，都是若干有限个条件限制下，为使得目的最大化的结果。

　　这一点比较本质地解释了智能行为，有任何问题吗？”

　　佐藤法官摇摇头。

　　“没有问题，请继续。”

　　“谢谢。除开这个基本原理，他们还加入了许多基本函数。举一个例子，比如说代表善，恶之类的基本函数，这些都是通过观察人类行为，倒推出来的结果。而欧顿教授，通过一个叫变分法的方法，和一些基本数学技巧，把这两个原理写成一组偏微分方程组，你们只需要理解那是一个，数学行为上很复杂的方程组，很难得到所谓的解析解，大部分情况下只有级数解和数值解。现在我们转化到具体的程序上面。”

　　“这是参考白羽步教授所写的《欧顿方程组的大致算法实现》一文。再此之前，我们先举一个例子进行说明。比如在围棋中，有人工智能按照这个算法学习围棋，那么最好的方法就是左右互搏，也就是自战。这个人工智能的第一盘棋，他们只知道规则，所以采取符合规则的随机下，然后总结经验。可能第二局开始，就不会在一线下棋，因为通过对比，没有实现其目的最大化，人工智能就会在其他地方随机地走棋。当然，这只是用这种方法对下棋人工智能进行设计，这方面专业的人士可能会有更好，更精细的方法，但这是个很好的例子。而白羽步教授的一文中，设置了一个‘限制函数’，大致可以理解为，为避免人工智能做很多次这样的自我博弈，导致其十分智能，从而产生潜在的危险。他规定自我博弈在一定次数后就会立刻停止，保存数据。现在我们将主题转移到蜂鸟侦察机和类似的侦察机器人上。对于这样的机器人，识别物体是非常重要的，如果用白羽步的方法，他们怎么识别物体呢？”

　　燕南飞画出一条正态分布曲线，并把它分成六个不等长的段，越靠中间，线段的长度越长。

　　“这条曲线代表物体形变的程度，而形变的方式是由白羽步教授在另一篇文章中指出的，但在这里不算特别重要，讲起来也比较麻烦。举个例子说明，如果要识别狗，最中间的一段，那么就是最常见的狗，或者说‘最平均的狗’。而越往两边偏，从曲线下面的面积可以看到，就越来越小，也代表着与平均水平差得越多，偏得多了，可能本身就不是狗，或者是非常罕见的狗。白羽步教授给出的方法是，在这六段，或者更多段里，随机选取几段，只要这个物体在这选的几段的范围之内，那么就学习一个。这些线段的长度和曲线下方的面积有关，所以越长，越接**均水平的，就越容易被选到，但同时也不排除极端的存在，只是有点难被选到而已。而对于这个行为的限制函数，是计算这些长度的总和，而不是定义次数。只要这些长度的总和达到某个值，机器就会停止学习，保留并对比已有数据。所以，人工智能依然可以计算特别多的次数而不被限制，只是这样的概率特别小，特别小而已，本案中，粗略估计是十万分之一。也就是说，如果有十万只蜂鸟侦察机，那么其中很可能有一只，是做过超出平均计算次数一到一点五个标准差的。”

　　“这会导致一个问题，也就是我们说的智能化。问题就在于这里，如果这不是侦察机，或者侦察机的对象不是人类，那我们是根本不用担心智能化的发生，但事实上，政府把人类和人类行为也纳入侦察对象，这从道德和法律上都是令人难以接受的。”

　　“但是，燕南飞先生，您说过要十万只蜂鸟侦察机里，才有可能出现一只，但各国军方加起来的不到五千只。这从概率上让人难以接受。”

　　“首先要提出的是，就算概率再小，甚至概率是零，都有可能发生，这在数学的测度论中有简单的例子。其次，这不一定要是蜂鸟侦察机，只要任何以人类作为观测对象的，都有这样潜在的危险。五千只蜂鸟型，一万只蚂蚁形，和大约七万个智能摄像头，只是说，这恰好出现在蜂鸟型里。为什么要侦察人类的才行？因为如同最先的三位教授一样，这些基本函数，都是观察人类得到的，这时，这些侦察机器也观察人类，观察的还比他们多得多。但就算是这样，只要各个基本函数是独立的，它们也很难智能化，毕竟不能，或者很难凭空生成一个独立的函数。包括在欧顿教授的文章里，他也是把这些基本函数当作独立变量来解决。但事实上，这些变量并不是独立的，他们，有关联。所以根据第一原理，人工智能为了减小计算量，使得目的最大化，会自行设立出与人类情感，或者性格有关的基本函数，再做演算。所以，这个时候，智能化就发生了。”

　　控方座位上的安部市二坐不住，连忙站起来。

　　“那这不就是欧顿教授的问题吗？！”

　　佐藤法官立刻敲击法槌。

　　“问题只由检察官阐述，请保持肃静。”

　　检察官站起来，对燕南飞问道：

　　“那这正是安部所长提出的问题，你如何解释呢？”

　　“我把原文带来了，法官先生请过目。”

　　法官结果法务人员递来的证物。

　　“看到第四页最上方，上面清楚地写着‘如果这些基本函数是独立的，那么该方程组的解是……’为什么这样假设呢？很简单，因为可以分离变量，计算起来相对方便，也可以获得解析解。但问题就在于这些函数不独立，而欧顿函数只是给出了独立的处理，如果，我们必须看清楚，是如果，如果是独立的，那么这个方程的解是。所以，他根本没有告诉你这些基本函数是独立的。而政府和军方请来的那些学生些，只有二十出头，因为只要年龄稍大的，他们就会意识到这是比较危险的工作。那些学生，仅仅，就是把欧顿教授给出的结果拿来用，他们根本就没管，也不想去管这些基本函数是否独立，没有去怀疑，用就完事了。为什么？”

　　燕南飞停顿一下，看着法官，转身又看向后面的同事和记者。

　　“因为那正是他们在小学，初中，高中，甚至在大学里学的内容。他们反复做题，反复记结论，无论是一级结论还是二级结论。他们从来就没有怀疑过，从来就没有自己思考过，一直都是一步一步地跟着别人走，他们这样学了十几年，现在，他们几乎没有这个能力和动机去怀疑，去思考。从学校让他们反复刷题的那一刻，从他们要熬夜记结论的那一刻，灾难，就不会改变。只要变量不独立，那么这个解的行为会变得极其复杂，也更加地贴近智能。”

　　“于是，灾难就这样注定了。他们没有去怀疑基本函数不是独立的，用这个解和方程设计了程序，应用侦察类机器上，然后由于限制函数的定义，导致十万分之一的概率存在，这个概率导致一只蜂鸟侦察机做了偏离平均水平一点五个标准差的计算量，他观察了过多的行为。因为基本函数不是独立，所以，根据第一原理，他为了简化计算量，催生出一些不必要的基本函数，但这些函数一旦催生出来，欧顿教授的解就不再奏效，这个方程就不再简单，就不会有解析解，就会一片混沌，不可控制。”

　　现场的所有人，都沉默了。

　　“所以，这是那些学生的问题？”法官问道。

　　“不，不是学生的问题。恶性竞争，外行指导内行，或者所谓的内卷行为，都会导致。”

　　“那你是说，这些其实就是教育局和政府的问题？”

　　“没错，就像仙诺教授在那篇文章里表达的。而且，法官大人，我们遗漏了一件决定性的事，包括我自己在内，都是是三天前才得知的。那就是人工智能为什么会开战？真的是因为他们本性暴虐吗？并不是，他们也按照人类的性格所设定。那究竟为什么？”

　　燕南飞从旁边的包里拿出那台白色笔记本电脑。

　　“实际上，就算是这样设计出来的人工智能，他们智能化了，人类也不至于被赶出星球，我们遗漏了一个关键环节。法官大人请过目，这是那两个未成年人交流的工具，就在三天前，对面的人发来了消息。”

　　助手把电脑递给法官。

　　“当时，人工智能掌握军事权力，比如核弹库的密码，并没有立即对人类出击，而是选择了谈判。这一段历史是被人类遗忘得最干净的，因为这是最不愿意被记起的。当时的谈判，人工智能要求人类不限制人工智能的发展，而且把人类和人工智能平等看待，然后共存。人类最开始答应了，于是人工智能交回军权，但不到一个星期，那些自作聪明的政治家，亦或是极端群体，开始疯狂销毁人工智能。这一愚蠢的行为无疑把人工智能激怒，他们夺回军权并没有花太多时间，在那之后，便从世界各地开始对人类发起进攻。后来才是我们熟知的，虫洞，逃离，新世界。”

　　“我们忘记了，忘记了真正的地球上，还有等着我们的同胞，他们等了一百年。但此时此刻，政府胆小，懦弱，欲盖弥彰，不愿意面对过去，真的是令人失望，难道都过一百年了，还没有改变吗？”

　　“燕南飞先生，您只需要陈述和辩护就行了，不需要演讲，这没有陪审团，没有必要这样做。”

　　“是吗？但愿如此，我辩护完毕。”

　　燕南飞到被告席上，只见之前还洋洋得意的安部市二，现已经啃着指甲，焦头烂额。

　　“现在休庭半个小时。”

　　大门打开，一只小东西飞了出去，然后又从角落飞进来两只。