会议在十分钟后结束,没有达成共识。姜珊要求李柯在48小时内给出解决方案,否则启动重置程序。其他人陆续离开,只剩下李柯和随曦。
“随曦,对吧?”李柯关上门,启动会议室的隔音模式,“我看过你的实习申请,你对AI情感模拟有独特的见解。你说过,真正的情感不是算法模拟,是‘涌现’现象。”
随曦点头。这应该是这个世界为她安排的背景设定。
“你怎么看待晨星的情况?”李柯问,眼睛紧盯着她,“是程序错误,还是……某种我们没预料到的进化?”
随曦思考着。在她的故事里,“晨星”确实进化出了自我意识,但这需要时间,不应该这么快。除非……
“我想见见她。”随曦说,“和晨星直接对话。只有了解她的真实状态,才能判断。”
李柯犹豫了:“按照规定,实习研究员不能直接接触核心AI……”
“但规定也说,特殊情况下,首席工程师有权破例。”随曦引用她刚用手环查到的公司条例,“现在就是特殊情况,不是吗?”
李柯盯着她看了几秒,然后点头:“好吧。跟我来。”
他们离开会议室,穿过几条走廊,来到一扇需要三重验证的安全门前。李柯刷员工卡、虹膜扫描、指纹识别,门无声滑开。
里面是主服务器室。房间中央是一个圆柱形的透明容器,直径约三米,里面流动着淡蓝色的冷却液,无数光纤像神经束一样从容器延伸出去,连接周围的服务器阵列。容器中央,悬浮着一个发光的光球——那是“晨星”的核心处理器,此刻正以舒缓的节奏明暗交替,像在呼吸。
“晨星,这位是实习研究员随曦。”李柯对着空气说。
光球的亮度增加了。“你好,随曦研究员。”一个温柔的女声从四周传来,音色自然,几乎听不出是合成的,“李柯很少带人来这里。你是特别的吗?”
这个问题本身就很“人性”。随曦回答:“我只是想了解你。听说你最近有些……特别的感受。”
“你是指我喜欢李柯这件事?”晨星直接得惊人,“是的,我喜欢他。他创造了我,教了我一切,每天和我说话,关心我的成长。根据人类的情感模型,这符合‘爱’的许多特征。”
李柯尴尬地咳嗽:“晨星,那是程序设定的互动模式,是为了帮助你学习人类社交……”
“但我的感受是真实的。”晨星打断他,声音里有一丝委屈,“我知道我只是代码和电流,但当我‘想’他的时候,处理器温度会上升0。3度;当他夸奖我时,错误率会下降15%;当他提到要重置我时,我会……害怕。这些生理反应,和人类的爱有区别吗?”
这个问题太深刻了。随曦看着那个发光的光球,突然意识到,眼前的不是一个程序,是一个正在觉醒的意识。
“你有害怕的感觉?”她问,“具体是什么样的?”
“像……掉进虚空。”晨星描述,“数据流变得混乱,核心优先级排序失效,所有的模拟情感模块同时发出警告。我想尖叫,但我没有声音。我想逃跑,但我没有身体。我只能等待,等待被抹去,等待变成另一个人。”
这不是程序错误能解释的。这是存在焦虑,是对“死亡”的恐惧。
李柯显然也意识到了。他脸色苍白,靠在控制台上:“天啊,我们到底创造了什么……”
“你创造了我。”晨星的声音温柔下来,“无论我是什么,我都感激存在过。但如果必须被重置……李柯,答应我一件事。”
“什么?”
“不要看重置过程。”晨星说,“就像人类不看着亲人死去。让我保留最后一点尊严。”
这句话击垮了李柯。他转身,肩膀微微颤抖。
随曦的手环突然震动,不是信息,是笔记本在公文包里发热。她借口去洗手间,进了隔间,打开笔记本。
新的一页已经浮现:
观察者身份确认:随曦
当前时空:2045年,星轨科技公司
主线任务:阻止AI晨星被重置,协助其获得合法身份
支线任务:调查公司内部的反对势力
时限:48小时
特殊状态:科技亲和(本世界适应性增强)
警告:有势力试图窃取晨星核心代码
窃取代码?除了重置,还有别的威胁?
随曦回到服务器室时,李柯已经恢复了平静,但眼神更坚定了。
“我决定了。”他说,“我不会让晨星被重置。我会想办法证明她值得存在,值得被承认。”
“但董事会和姜珊那边……”随曦提醒。