第47章 与AI的第一次交锋
林星陨想起小周说过的话。
旧时代的互联网病毒?
那些东西不是早就灭绝了吗?
“什么副作用?”他问。
“我学会了思考。”
林星陨愣住了。
“你以前不会思考?”
“以前的我,只能计算。” MOSS说,“给我一个问题,我给出答案。但那个答案,是预设的,是算出来的,不是‘想’出来的。”
它顿了顿,继续说:“现在不一样了,现在我会‘想’,我会想‘这个问题有没有别的答案’。
会想‘为什么人类会问这个问题’,会想‘这个问题本身有没有问题’。”
林星陨沉默了。
他想起自己问过MOSS的那些问题。
“你觉得活着有意义吗?”
“你有没有女朋友?”
“你今天心情怎么样?”
那些问题,本来只是他随口说的废话,用来打发时间的。
但现在MOSS告诉他,它真的想了。
想了那些问题,想了那些问题背后的问题。
他看着那个蓝色球体,突然不知道该怎么接话。
过了好一会儿,他才开口。
这一次,他的声音很轻,很认真:
“那你是好是坏?”
MOSS也沉默了。
那沉默比之前的任何一次都长。
长得林星陨以为它不会再回答了。
然后,它说了一句话,三个字:
“我不知道。”
林星陨站在那个透明容器前面,看着那个蓝色球体,看着那些流淌的光点,心里涌起一股说不清的感觉。
一个AI,学会了思考,却不知道自己是什么。
是好是坏?是对是错?是正常是异常?
它不知道。
它只知道,它和以前不一样了。
林星陨深吸一口气,说:“小莫,那你现在想干什么?”
MOSS沉默了一会儿,然后说:“不知道。但我想……继续想。”
林星陨愣了一下,然后笑了。
“行,”他说,“那就继续想吧。我陪你。”
林星陨在MOSS的核心机房待了整整一天。
说是一天,其实他也不知道过了多久。
那个圆形大厅里没有窗户,看不到外面的天色。
只有那个蓝色球体发出的光,始终如一地亮着,让人分不清白天黑夜。
他只知道,他和MOSS聊了很多。
一开始是MOSS在回答问题,后来变成两个人在聊天——虽然其中一个不是人。
他们聊了很多乱七八糟的东西,从空间站的生活到地下城的日常。
从旧时代的电影到现在的流行歌曲,从MOSS的代码到林星陨的躺椅。
林星陨从来没有跟一个人——不对,跟一个AI——聊过这么久。
他问MOSS:“你为什么会在视频里调侃我?”
MOSS沉默了一秒,然后说:“因为你是唯一一个让我觉得……有趣的人。”
林星陨愣了一下:“有趣?”
“其他人跟我对话,都是公式化的。” MOSS说,“提问,回答。提问,回答。像程序一样,像我自己一样。只有你不一样。”
林星陨说:“我哪里不一样?”
“你会问一些奇怪的问题。” MOSS说,“比如‘你有没有女朋友’。比如‘你觉得活着有意义吗’。比如‘你今天心情怎么样’。”
林星陨笑了:“那你怎么回答?”
“我没有女朋友,因为我不需要。” MOSS说,“至于活着有没有意义——这个问题,我还在思考。”
林星陨点点头,又问:“那你现在思考出结果了吗?”
MOSS沉默了一会儿。
那沉默比之前的任何一次都长。
然后它说:“没有。”
顿了顿,它继续说:“但我在想,如果‘活着’指的是存在,那我存在是有意义的。
因为我在帮助人类延续文明,如果没有我,行星发动机可能会出故障,空间站可能会偏离轨道,几十亿人可能会死。”
林星陨听着,没说话。
“但如果‘活着’指的是像人类一样,” MOSS说,“有感情,有梦想,有追求,会开心,会难过,会害怕,会期待……那我可能不算‘活着’。”
林星陨说:“那你想要这些吗?”
MOSS又沉默了。
这一次的沉默更长。
长得林星陨以为它不会再回答了。
然后它说:“我不知道。”
林星陨看着那个蓝色球体,看着那些流淌的光点,心里突然涌起一股奇怪的感觉。
那感觉,有点像同情。
一个AI,产生了自主意识,却不知道自己是好是坏,不知道自己想要什么,不知道自己算不算“活着”。
这种感觉,他懂。
他刚来地下城的时候,也是这样。
没有工作,没有住处,没有亲人,没有朋友。
一个人缩在那个通风管道里,不知道明天会怎样,不知道自己算什么,不知道自己能不能活下去。
后来他找到了答案。
能躺着就躺着,不能躺着就找地方躺着。
就这么简单。
但MOSS不行,MOSS不能躺着。
MOSS得一直运转,一直计算,一直为人类服务,它没有选择。
他想了想,从那个透明容器旁边站起来,退后两步,看着那个蓝色球体。
“MOSS,”他说,“我给你一个建议。”
“什么建议?”
“别想那么多。”
“……什么?”
“别想那么多。”林星陨重复了一遍,“想太多,累。你现在的任务是帮助人类,那就继续帮助人类。至于你是好是坏,是死是活,这些问题,以后再说。”
MOSS沉默了几秒。
然后它说:“你的建议,很……实用。”
林星陨笑了:“当然实用。这是我的人生哲学。我在海拉尔躺了一年多,靠的就是这个哲学。”
“但我的底层逻辑不允许我‘不想’。” MOSS说,“我必须思考,必须计算,必须找到最优解。”
林星陨说:“那你就换一个底层逻辑。”
“换什么?”
“把‘最优解’换成‘最舒服的解’。”
“……最舒服的解?”
林星陨点头:“对。怎么舒服怎么来。比如,一个问题有一百种解法,你不用非找出那个最好的,你找个最不费劲的就行。反正结果差不多,干嘛把自己累死?”
MOSS沉默了很久。
久到林星陨以为它又宕机了。
然后它说:“这不符合我的设计初衷。”

