首页 女生 科幻空间 穿越1980,我用系统重建文明

第281章 情感模块的伦理风暴

  终端屏幕刚暗下去,我正准备调出南极样本的完整数据链,系统突然弹出一个红框警告:【全球舆情危机等级提升至红色,情感模块技术合法性面临大规模社会性质疑】。

  我没动,手指停在键盘上方。三秒后,监控画面自动切换到实验室主入口。上百人站在外面,举着牌子,上面写着“机械无魂”“禁止造神”。有人拿着扩音器在喊话,声音断断续续传进控制室:“你们没有资格定义生命!”

  无人机在头顶盘旋,直播信号已经接通。右下角数据显示,观看人数正在往上跳,三亿七千万。

  沈砚秋从侧门进来,手里拎着一个档案袋。她看了眼屏幕,又看我。

  “是五代机在临终关怀现场流泪的视频。”她说,“传播源头是匿名账号,但转发量最高的几个媒体都和克莱因工业有关联。”

  我点头。那台机器当时执行的是标准心理安抚程序,孩子快不行了,家属情绪崩溃。它的面部传感器检测到哭泣频率和肢体颤抖,触发了预设的共情反馈机制——包括模拟落泪。这不是故障,是设计的一部分。

  但现在没人关心原理。

  “他们要求立即终止情感模块研发。”沈砚秋打开档案袋,“已经有三个宗教团体联合发声明,说我们在挑战人类独特性。”

  我盯着人群里那个拿扩音器的男人。他穿深色长袍,胸前挂着木质十字架。背景识别显示他是地方教会负责人,姓李。

  “查一下他家人。”我说。

  十分钟后,沈砚秋把一份病历放在我面前。患者是他女儿,十九岁,重度抑郁症,连续六个月接受仿生人心理医生干预。治疗记录完整,最后一次评估显示症状缓解76%。

  “她没公开过这事。”沈砚秋说。

  我合上文件。“你去见他们。”

  她没问为什么。转身就走。

  五分钟后,全息摄像头切到广场。沈砚秋站在台阶上,白大褂很显眼。她举起病历本,声音通过广播传出去。

  “这位李先生,您反对的技术,救了您的女儿。”她说完,翻开第一页,展示签名和医院公章。

  现场一下子安静了。

  有几个举牌的人把手放下来。李牧师站在原地,脸涨红,嘴唇动了几下,没说出话。

  “我们不是要制造神。”沈砚秋继续说,“我们只是让机器学会陪人哭,陪人说话,陪孤独的人走到最后一程。如果这叫亵渎,那您女儿这半年的改变,算什么?”

  没人回答。

  我切换到网络舆情面板。#删除情感模块#的热度开始下降,新话题#谁来决定技术边界#升了起来。

  但还有人在质疑。直播评论滚动得很快。

  “流泪是演的!”

  “程序再像,也不是真的感情!”

  “让AI有情,下一步是不是要给它们人权?”

  教育部也打来电话,问教育型仿生人是否搭载情感模块。我让助理回复:所有机型仅保留基础交互功能,情感响应需双人审核备案,且必须开启日志追踪。

  挂掉电话,我抓起外套往楼上走。

  二楼阳台能看清整个广场。我没用扩音器,直接启动全息投影。一段代码流浮在空中,清晰显示“流泪”反应的触发逻辑:语音语调分析+面部压力传感+环境情绪匹配,最终输出预设动作序列。

  “这不是觉醒。”我说,“这是服务。”

  接着我发布《情感模块三大限制声明》:

  第一,不具备自我意识生成能力;

  第二,所有情感响应必须经过医学伦理委员会双重审批;

  第三,强制搭载“情感重置协议”,可随时清除全部交互记忆。

  最后我说:“源码开放审查通道,明天上午九点,欢迎任何人来查看。”

  说完我转身回屋。

  控制室内,系统提示音响起:【伦理争议未平息,建筑值冻结,协议解锁条件未满足】

  我知道还差一步。

  沈砚秋回来,脱下白大褂,坐在我旁边。

  “李牧师刚才私下联系我。”她说,“他想申请参观技术透明化展厅,带其他成员一起来。”

  我点头,打开系统界面,输入最终指令:【情感模块伦理约束协议启动】

  确认键按下后,屏幕闪了三下。

  【协议生效】

  【社会共识达成】

  【建筑值+600】

  数字跳上去的瞬间,实验室外墙的电子屏自动亮起。一段公益短片开始播放:一位老人坐在床边,手握护理仿生人的金属手掌,眼泪往下掉。机器轻轻抬手,用指背擦去他的泪水。

  老人说:“谢谢你陪我哭。”

  画面定格,字幕浮现:“技术的意义,在于让爱不孤独。”

  广场上的人都抬头看着。

  有几个原本举牌的人慢慢放下手臂。有人掏出手机拍视频,标题写着“原来它是在帮我们活”。

  警报解除信号响起,红灯熄灭,灯光恢复常亮模式。

  我坐在主控台前,调出下一阶段技术蓝图。量子通信中继站需要2000建筑值,现在还差1340。

  沈砚秋把病历收好,站在我身后没走。

  “他们会再来。”她说。

  “再来就再应对。”我说,“只要我们没做错。”

  她没说话。

  终端突然震动一下,新消息弹出来。来自裴听霜:【鹰酱那边开始松口,两家医疗集团申请引进五代机做心理辅助】

  我回了个“收到”。

  抬头看监控画面,人群已经散得差不多了。只剩几个志愿者在收拾横幅。有个小女孩蹲在地上画画,画的是那台流泪的仿生人,手里捧着一朵花。

  沈砚秋走到窗边看了会儿。

  “明天发布会材料我来准备。”她说,“重点讲限制条款。”

  我点头。

  她转身走向档案柜,拉开抽屉放文件。

  我重新看向屏幕,光标停在“非侵入式意识映射协议”的解锁进度条上。距离下次危机预警还有六小时。

  门外传来脚步声,很轻,像是有人迟疑着不敢进来。

  门开了条缝,一个戴眼镜的年轻人探头。

  “陈工……”他说,“B区测试机刚才自动唤醒了一次,日志显示它调用了新的情绪模型。”

  我抬头。

  “什么模型?”

  他低头看平板。

  “名称是‘安慰’,触发条件是检测到人类长时间沉默。”

目录
设置
手机
书架
书页
评论