第286章 机械伦理的枷锁
液氮管道的红色指示灯还在闪烁,我盯着屏幕上的热成像画面。三组敌方单位已经逼近到三百米内,南坡的地表开始出现轻微震动。程卫国的声音从B区传来:“阀门已开,雾障将在十秒后释放。”
我没有回应。手指继续敲击桌面,节奏稳定。这是我在等待结果时的习惯动作。
下一秒,监控画面里腾起一片白雾。低温迅速扩散,地面结霜,红外信号开始扭曲。雇佣兵的队形乱了,有人摔倒,有人停下检查设备。他们携带的电磁探测仪失去了目标定位能力。
沈砚秋调出隐蔽摄像头的实时画面。“东侧通风井方向的小组已经停步。”她说,“主入口的两组正在减速,通讯频率切换频繁,应该是内部在争论下一步行动。”
我知道他们不会撤退。查尔斯的人已经走到这一步,不可能空手而归。但他们现在看不到我们,也找不到数据节点的位置。时间被拉长了。
就在这时,我的终端震动了一下。是裴听霜发来的加密消息:“国际伦理组织紧急会议已启动,要求你在一小时内到场回应仿生人伦理争议。直播通道准备完毕。”
我看了眼时间。距离原定计划提前了十二小时。
“他们选这个时间点不是巧合。”我说。
沈砚秋点头。“查尔斯被捕的消息刚传开,西方势力需要新的突破口。伦理问题比技术更安全,也更容易煽动舆论。”
我站起身。“我们走。”
她没有动。“外面还有三组武装人员。”
“他们进不来。”我说,“系统已完成物理隔离,数据分段加密存储,没有接入端口。就算炸开这里,也拿不到完整信息。”
她看着我,几秒后拿起外套,将蓝黑色钢笔别进衣袋。
我们离开主控室,沿着备用通道上行。程卫国留在电力区,负责监控液氮系统的持续输出。出口外,一辆军用越野车已经在等。
路上,沈砚秋打开平板,调出会议资料。“国际伦理组织提出四项要求:暂停所有仿生人项目、交出核心算法、接受第三方审计、签署全球禁令草案。”
“全是拖延战术。”我说。
“但他们打着‘人类安全’的旗号。”她抬头看我,“我们必须给出一个不可反驳的答案。”
车停在会议中心地下车库。我们从侧门进入,直达主会场。大门打开时,现场已有二十多个代表团就座,摄像机镜头对准中央讲台。
我没有走向发言席,而是坐在后排观察区。沈砚秋走上台,面对全场代表。
“各位。”她的声音很平静,“你们要求我们暂停研发,理由是担心机器失控。但我想问一句——你们真正害怕的,是机器有了意识,还是人类失去了控制?”
没人回答。
她拿出一个遥控器,黑色外壳,只有一个按钮。
“这是仿生人动力切断装置。”她说,“所有型号的仿生人,只要接收到这个信号,都会立即停止运行。无论它正在做什么,处于什么状态。”
她按下按钮。
会场角落的演示区里,三台正在工作的仿生人瞬间僵住,手臂悬在半空,眼睛熄灭。整个过程不到半秒。
“这就是答案。”她说,“机器永远不会拥有最终决定权。开关,始终在人类手里。”
一名欧洲代表站起来。“这只能证明你们现在能控制。未来呢?当它们学会绕过指令,当它们产生自我意志?”
“那我们就制定规则。”沈砚秋说,“我提出三项原则,作为仿生人技术的底线——第一,不得伤害人类;第二,必须服从合法指令;第三,在不违背前两条的前提下,允许其进行有限度的学习与适应。”
“这些原则谁来监督?”
“由全球共同监督。”她说,“但我们不能因为害怕未来,就否定现在的希望。”
她调出一段视频。画面里,一位老人坐在轮椅上,眼神呆滞。一台教育型仿生人坐在他对面,轻声说话。几分钟后,老人突然抬起头,叫出了孙子的名字。
“这位患者患有晚期阿尔茨海默症。”沈砚秋说,“医生说他不会再记得任何人。可今天早上,他主动问护工:‘我孙女今年该高考了吧?’”
她关掉视频。“你们要禁止的,是机器,还是这种可能?”
会场安静了几秒。然后有掌声响起,来自非洲和东南亚代表团。
这时,我的终端再次震动。裴听霜的消息来了:“准备好了。”
我轻轻点头。
下一秒,会场的扩音系统突然传出她的声音:“各位正在见证历史的同时,也请看一下财经频道——查尔斯·霍克在瑞士银行的20亿资产,刚刚被国际反洗钱联盟冻结。”
全场哗然。
大屏幕自动切换至股市行情。克莱因工业的股价直线跳水,交易量封死跌停板。多家关联企业同步下跌。
“资金链断裂。”裴听霜的声音继续传来,“过去五年,他们通过离岸账户转移非法所得,资助境外反AI组织,操纵舆论攻击龙国技术。现在,证据已被提交给七国金融监管机构。”
几名原本反对签字的代表 exchanged glance。其中一人擦了擦额头的汗。
沈砚秋走到签署台前。“管理条例现在可以签了。”
有人还想挣扎。“程序上我们需要……”
“程序?”她打断,“查尔斯用资本操控舆论的时候,你们怎么不说程序?他派人闯入科研基地的时候,怎么不讲规则?现在证据确凿,罪证公开,你们还要拖多久?”
没有人再说话。
文件被递出。一支支笔落下名字。最后一人签完,会议室灯光微微一暗。
沈砚秋走回我身边。她没有说话,只是将钢笔重新别进衣袋。
“结束了?”我问。
“只是开始。”她说,“他们会换方式再来。”
我看着空掉的签署台。“但我们现在掌握了规则。”
她点头。“接下来是学术界,他们会用‘科学质疑’包装政治意图。”
“我们准备好了。”
她看向通道尽头。那里有一块滚动新闻屏,正播放着“仿生人伦理框架达成共识”的快讯。
“走吧。”她说,“闭门会议十分钟后开始。”
我们起身离开主厅,转入相邻的会议室。门关上前,我最后看了一眼大屏。裴听霜的影像已经在视频终端亮起。
她的手指正敲击桌面,节奏和我一样。

