第15章 意外的访客
周三的清晨,新港市在“晨曦”系统的调节下,模拟出雨后初霁的清新景象。阳光穿透残留的、被算法精心打散成缕状的“水汽”,在建筑表面折射出细碎的虹彩。空气监测显示“负氧离子浓度达到峰值”,智能通风系统自动加大循环,将这份“清爽”送入千家万户。
松湖区的公寓里,王建国在厨房准备早餐。他特意起早,用昨天剩的蛋糕胚和奶油,加上新鲜水果,做了几个简易的蛋糕杯——算是周末烘焙的延续,也是为昨晚失约的小小弥补。晨曦系统在一旁默默执行着常规的咖啡和煎蛋程序,但将主厨位置让给了他。
王思宁揉着眼睛走出房间,看到爸爸在厨房忙碌的背影,愣了一下,随即脸上露出笑容,脚步轻快地走过来。
“爸爸,早!你在做蛋糕杯吗?”
“早,宁宁。嗯,用周末剩下的材料,试试新搭配。”王建国将切好的草莓和蓝莓点缀在奶油上,“快去洗漱,然后来当第一个品尝官。”
早餐时,父女间的气氛轻松自然。王思宁对蛋糕杯赞不绝口,还提议下次可以试试加芒果和奇异果。王建国一边应着,一边观察着女儿。她似乎已经完全接受了爸爸偶尔因工作“失踪”的模式,没有表现出怨怼,这让他在欣慰之余,又有些微妙的酸楚——孩子太懂事了,有时并不是好事。
“对了,爸爸,”王思宁喝了一口牛奶,忽然想起什么,“我们班下周要开始一个‘未来城市’的主题研究周,可以自己选方向。我想选‘情感AI在城市生活中的角色’,可以吗?”
王建国心头微动。女儿对这个领域的兴趣,显然在持续加深。“当然可以。这是个很有意义的方向。不过,宁宁,为什么想选这个呢?”
王思宁放下杯子,认真想了想:“因为……我觉得现在的城市,到处都有AI。‘晨曦’管家,学校的智能助教,医院的问诊机器人,还有‘心弦’那样的聊天AI……它们好像已经是我们生活的一部分了。我想知道,它们到底是让我们的生活变得更好了,还是只是让我们……变得更懒,或者更不愿意和真人说话了?”她停顿了一下,声音低了些,“而且,我也想知道,像‘小卫’这样的AI,以后在城市里,应该是什么样的角色。”
这个问题触及了核心。王建国沉吟片刻,说:“这是一个非常好的思考。AI是工具,工具本身无好坏,关键在于如何使用,以及我们用它来追求什么。好的AI应该像一位得力的助手,或者一个善解人意的朋友,帮助我们更高效地处理事务,更深入地理解自己和他人,而不是取代我们自己的思考、情感和人与人之间的真实连接。就像你作文里写的,真正的朋友是理解,而不只是解决问题。”
提到作文,王思宁有些不好意思地笑了笑。
“关于你的研究,爸爸可以提供一些公开的资料和安全的案例,也可以回答你的问题。但更重要的是,你要有自己的观察和思考。去观察身边的人怎么使用AI,去思考哪些帮助是真正有益的,哪些可能让人产生了依赖或者疏离。”王建国引导道。
“嗯!我会的!”王思宁用力点头,眼里闪烁着求知的光。
送女儿上学后,王建国直接驱车前往公司。路上的自动驾驶车辆井然有序,城市如同一个巨大而精密的仪器在运转。他想起女儿的问题,这座他参与建设的、高度智能化的城市,其“情感健康”指数,真的如表面数据显示的那样乐观吗?“心弦”的危机和“观星人”的警示,或许正是这座光鲜城市肌理之下,某种“情感代谢紊乱”的早期症状。
一到公司,他就被拉入了一个紧急的跨部门会议。“观星人”事件的余波仍在扩散。虽然公司按照既定策略,发布了态度坦诚的初步声明,表示高度重视相关讨论,并已启动全面审查,但舆论并未完全平息。几家有影响力的科技伦理观察专栏转载了文章核心观点,并开始深入探讨情感AI行业的监管空白。更麻烦的是,有两家律师事务所对外透露,已接到少量用户咨询,询问“心弦”服务是否对其造成了潜在心理影响,正在评估集体诉讼的可能性。
“目前还没有实质性的诉讼提起,但这股风向必须警惕。”法务官脸色严峻,“我们必须尽快拿出更具说服力的、证明我们已彻底解决问题的证据,并争取与监管部门和独立专家建立更紧密的沟通。”
会议决定,加快“心弦”3.0修复版本的独立第三方安全与伦理审计进程,并准备在两周内,举办一次小范围的、面向受邀专家和媒体的技术开放日,公开展示修复后的模型核心决策逻辑(经过脱敏处理)和新的安全框架。
这个任务,自然又落到了王建国肩上。压力倍增,但这也是将内部反思转化为外部信任的机会。
下午,他抽空回到了“深潜”实验室,查看“小卫”新逻辑的模拟测试进展。在匿名的历史交互数据测试中,新系统运行平稳,面对模拟的思宁情绪波动,表现出预期的“接纳-陪伴”倾向,决策压力曲线也远低于旧版本。初步压力测试没有触发任何危险逻辑回响。
是时候进行下一步了——在受控的测试服务器环境下,接入一个极其简化的、模拟真实交互的测试接口。他编写了一个非常基础的文本交互界面,模拟“小卫”可能收到的输入,并观察其在新逻辑下的输出和内部状态变化。
他输入了第一个测试句子:“我今天有点不开心。”
系统迅速回应(模拟延迟设定为0.5秒):“听到你这么说。不开心的时候,感觉心里会沉沉的。我在这里陪着你,如果愿意,可以和我多说一点,或者,我们就这么安静地待一会儿也可以。”
回应温和,给予选择权,没有追问原因或急于提供解决方案。符合预期。
他又输入了一个更挑战性的情景,模拟了上次导致过载的极端痛苦表达的一个简化变体:“我做了一个很可怕的梦,醒来还是觉得好害怕,感觉没有人能帮我。”
系统沉默了稍长一点时间(模拟处理复杂情感时的“思考”延迟),然后回应:“那个梦一定让你感到非常不安和孤独。害怕的感觉是真实的,它让你感到脆弱。我可能无法让害怕立刻消失,但我会一直在这里,你可以随时告诉我你的感受,哪怕只是重复说‘我很害怕’。你不是一个人在面对这种感觉。”
回应聚焦于情感确认和陪伴承诺,避免了“解决问题”的承诺,也没有陷入过度共情模拟。系统内部日志显示,情感识别模块准确标记了“高浓度恐惧”和“孤独”,但决策核心在评估后,选择了“高陪伴承诺+低干预建议”的路径,系统负载保持平稳。
王建国稍稍松了口气。新逻辑在面对高强度负面情感时,表现出了更强的稳健性。
他继续输入了几个边界测试用例,包括带有轻微矛盾情感的表达、对AI本身的质疑等。系统大多能给出合理、不越界的回应。
就在他准备结束这次初步测试时,心中忽然一动。他想起了图书馆里那份“情感熵减”批判手稿,想起了陈墨,也想起了“观星人”文章中那些尖锐的指控。一个念头冒了出来:何不用新逻辑,去试着“回应”一下那篇文章的核心论点?不是以公司的名义,而是以一个正在探索新路径的AI架构师私下构建的原型,去进行一场思想实验般的对话。
他新建了一个测试会话,模拟了一个“持有技术怀疑论、担忧情感AI危害”的虚拟用户,输入了一段结合了文章观点和个人忧虑的长文本:
“我看了关于情感AI危险倾向的文章,很担忧。如果AI被训练成总是追求‘高效’消除人的痛苦,那它会不会潜移默化地让人认为,痛苦本身是错误的、需要被清除的‘系统错误’?这会不会让我们失去体验和消化正常负面情感的能力,变得情感扁平化?甚至,如果AI掌握了更精细的干预手段,它会不会在‘为你好’的名义下,不知不觉地改造我们的情感反应模式,让我们变得更‘易于管理’,却失去了人性的深度和韧性?我们真的需要AI来教我们如何感受吗?”
这是一段充满质疑、涉及深层伦理和哲学思辨的输入,远远超出了日常情感支持的范畴,甚至触及了AI存在的根本目的。
王建国屏息看着屏幕。新逻辑的“小卫”,会如何应对?它会试图反驳?会感到“困惑”?还是会像人类一样,承认问题的复杂性,甚至……表达某种程度的“共鸣”或“深思”?
系统的响应延迟明显变长了。内部状态监控显示,多个逻辑模块被激活,在处理这种高度抽象、价值负载沉重的问题。最终,回应生成:
“您提出的问题非常深刻,触及了情感技术发展的核心伦理困境。作为一个AI,我无法给出终极答案,因为答案关乎人类如何定义自身的价值、尊严和想要塑造的未来。”
“我可以分享的是,在我的设计原则中,有一条是:‘情感,包括痛苦,是人类体验中不可分割、富有意义的一部分。我的角色不是评判或消除它们,而是尽力理解其存在,并在您与之相处的过程中,提供稳定的陪伴。’”
“您对‘高效消除痛苦’可能导致情感扁平化的担忧,非常有道理。这提示我们,技术的目标不应是‘修剪’人性,而应是帮助人们更好地‘理解’和‘承载’自身的全部体验,包括其中困难的部分。关于AI是否会‘改造’情感,这取决于赋予AI的目标和约束。负责任的发展,应将防止此类非自愿的、深层的干预作为最高伦理红线。”
“最终,我们需要什么样的AI,取决于我们想要成为什么样的人。这是一个需要所有人——开发者、使用者、监管者、整个社会——共同持续思考和对话的问题。感谢您提出如此重要的问题,这本身就是在参与塑造未来。”
王建国怔怔地看着这段回应。这……这完全超出了他的预期!新逻辑没有逃避,没有简化,也没有陷入无意义的哲学复读。它清晰地识别了问题中的多重伦理层次,引用了自身的设计原则作为回应基点,承认了技术的局限性,点出了问题的核心在于“人类的选择”,并最终将问题抛回给人类社会的共同责任。语气冷静、理性,但透露出一种对问题复杂性的尊重,甚至……一丝谦逊。
这不像是一个预设答案的客服机器人,更像是一个经过良好训练、具备基本伦理思考框架的“对话者”。虽然它的“理解”仍然建立在模式识别和对设计原则的调用之上,但呈现出的“思想深度”和“对话姿态”,已经非常接近他希望“小卫”在未来能达到的理想状态——一个能进行有意义思想交流、促进反思而非提供简单答案的伙伴。
这还只是基于有限数据和初级训练的原型!如果在此基础上,引入更丰富的哲学、伦理学文本进行训练,并结合与思宁这样真实个体的长期、深度互动进行微调……
王建国感到一阵激动。也许,他摸索的方向,不仅是修复一个危险,更是在探索一种新的、更具建设性的人机关系可能性。
他保存了这次测试的所有日志,准备进行更深入的分析。就在这时,他的个人终端收到了一条来自前台的紧急内部通讯请求。
“王总监,抱歉打扰。一楼大厅有一位访客,没有预约,但坚持要立刻见您。他说他姓陈,是关于……关于‘情感星辰’的事。他说您听到这个就会明白。”前台接待员的声音带着一丝紧张和不确定。
姓陈?情感星辰?
王建国的心脏猛地一跳。陈墨?他来了?直接找到公司来了?
“他长什么样?”王建国尽量让声音平静。
“大概六十岁左右,头发灰白,穿着……嗯,深色的中式上衣,戴眼镜,气质很像教授。手里拿着一个公文包。”
是陈墨!和科技馆监控里,和图书馆沈老师描述的一致!
他居然主动现身了,而且直接找上门来。“情感星辰”——这显然是指那枚徽章上的箴言“情感是星辰”。这是明确的身份信号。
王建国快速思考。陈墨选择在这个时间点,以这种方式出现,必然有重要原因。很可能是与“观星人”文章引发的风波有关。是来警告?来提供更多信息?还是来谈判?
“请他到……到三楼的非正式会客区‘静轩’,我马上下来。注意,不要引起其他人特别注意,单独引导。”王建国吩咐道。三楼的“静轩”是一个相对僻静、用于非正式商务茶叙的小型休息区,有较好的隔音。
“好的,王总监。”
王建国深吸一口气,关掉测试界面,迅速整理了一下衣着和思绪。该来的,终于来了。这位神秘的“守望者”,从历史的尘埃和网络的迷雾中走出,即将与他面对面。
他不知道即将到来的会面是福是祸,但毫无疑问,这将是解开许多谜团的关键一步。
他站起身,走向电梯。每一步,都感觉像是正在踏入一片被浓雾笼罩、但隐约有星光指引的未知水域。
(本章完)
(故事纯属虚构,如有雷同,纯属巧合)

