千米小说网

太阳火 凌 晨（第4页）

杨志远揉揉太阳穴，答案脱口而出：“不会，一百零八台超算中有二十一台备用机，随时可以替代彼此，就算那十九台入网超算因为温度升高而出问题，也有应对之策。”

二○六五年三月二十日　北京时间二十点四十分

月球国际天文台

“好吧。我们的计划万无一失。”方自健回应，备用机这事儿他怎么就没想起来呢。潜意识里，他是真的想发现ATS的问题，让自己的怀疑和担忧落到实处。

其实，“ATS计划”和方自健没多大关系，他出生在太空城市中，习惯了微重力的环境、洁净的人造空气、绝对的孤独以及虚拟的人际交往。他的真实生活里，从来没有同时接触五个以上实体人的经验。地球对他来说，只是视觉上的习惯存在。

方自健的目光落在地上。“繁星三号”就在脚下，它能计算出赵晨光问题的答案，只要他给一个指令。但指令一旦发出，就等于向整个超算网络宣布他的怀疑。

“同学们，杨老师说，”方自健强调“杨老师”三个字，“温度变化对超算系统没影响，有备用机。”

二○六五年三月二十日　北京时间二十一点

中学联盟天文台昌平台

“真的没影响？”赵晨光反问，对等了一个小时才得到的答案并不满意，声音里不由得带了些抱怨和委屈，“老师您确定？我可不是信口开河。”

“你还没信口开河？”林奕憋了一个小时，终于忍不住发作了，“有影响没影响是你拍拍脑袋、看看地图就能得出来的结论？科学得有依据！”

赵晨光说：“当然有，我给你看。”他便手触屏幕，导入个人资料库的地址。资料库按照他的喜好做成了飞机状，他打开机舱门跳进去……赵晨光忽然终止动作，看着林奕，有点犹豫：“我讲给你听吧。”

林奕拉了一张椅子坐下：“成，给你五分钟，说吧。”

赵晨光却什么都说不出来。抱臂跷着二郎腿的林奕比校长都有权威感和压迫感。

“快说！”林奕催促，“我要开始计时了。”林奕最讨厌赵晨光每到关键时刻就吞吞吐吐的白痴样，“怎么不说了？平时你倒是伶牙俐齿，说得过曹操，吓得退司马懿，有什么用！”

赵晨光一拍大腿：“罢了，我给你看。”

二○六五年三月二十日　北京时间二十一点三十分

贵州省天文台

“杨老师，您还记得二○四九年的机器人KTV杀人事件吗？”林奕问道，看过赵晨光的那些材料后，她还真有点忧心忡忡，“日本发生的那起。”

此时，一些资料图片涌进杨志远面前的虚拟显示区，在他眼前自动播放。那是在KTV从事服务业的人形娱乐机器人，忽然放火烧掉了KTV，造成顾客九死十伤的悲剧事件。

“我记得。”杨志远回答，“这之后加强了对机器人的行为监控。你们想说什么？”

“那些机器人，是‘出云四号’超算控制的工厂制作的，包括行为模式输入。”赵晨光说，“‘出云四号’后来被禁用，您知道为什么？”

杨志远摇头。一台超算被禁止工作的原因有很多。比如“小桂”，大窝凼天文台成立初期定制的超级计算机，由于ATS的大部分项目被太空望远镜取代，经费捉襟见肘，就只能将其束之高阁。

看到杨志远忽然黯淡的神情，赵晨光像倒豆子一样哗啦啦地一气说了出来：“调查发现，‘出云四号’不仅为机器人在设计时输入了行为模式，还接受它们的行为反馈，可以随时调整机器人的表现。也就是说，这些机器人实际上由‘出云四号’操纵。机器人纵火，并非报道中的机器人控制失灵，而是超算指挥。超算杀了人！因为人欺负了那些娱乐机器人！”

林奕拉住赵晨光：“别激动别激动，慢点说。”

“类似的例子，在这二十年中发生了多少起，老师您知道吗？三十九起！总共有七百八十三人丧生！老师！”赵晨光情绪上来了，语速有些不稳，掐住林奕的手臂，“这不是事故，这是蓄意谋杀！”

杨志远劝道：“真别激动，晨光，每年全球交通事故的死亡人数有多少？你不能就此认为，那些无人汽车、高速火车和超音速飞机想谋杀人。”

“不，不，这怎么能和交通事故相比呢？这是谋杀！”赵晨光提高声量，“老师，超算是超级计算机，也是强智能计算机，它从他识’上升到‘我识’只不过是时间问题。”

林奕的手臂被赵晨光掐得发疼，她想甩开这只讨厌的手，但“他识”和“我识”两个词儿把她惊到了，一时间忘记了皮肤的痛楚。这……这个声嘶力竭、认真到满面通红的男生，真是她认识的那个嬉皮笑脸成天没正形的赵晨光吗？

杨志远也吃了一惊，不由得眉心一皱，严肃地说：“晨光，你说的是人工智能和强人工智能的问题。不是那么简单的，也不是……”他停顿几秒钟，斟酌词句，不想伤了孩子们的热情，但又不能不提醒，“你们这个年龄该考虑的事情。”

“不，不，”赵晨光连连摆手，“老师您误解了，我说的不是超能超脑什么的，我想说的是，‘ATS计划’可能要出事儿！”

二○六五年三月二十日　北京时间二十一点五十分

月球国际天文台

方自健跳了起来，一时忽略了月球引力，重重地撞到了墙上。他反弹回去，穿过虚空中的杨志远，摔在地上。

他记得机器人KTV纵火事件。这件事占据了两天的舆论头条，有铺天盖地的新闻报道和研究文章。但大众的关注重点是娱乐机器人的智能仿真度需不需要将人类情感中的负面情绪都一一仿真出来，没人多想“出云四号”在事件中的作用。

超算有了自我意识，所以对人类欺负低级计算机也就是娱乐机器人产生不满，所以指挥娱乐机器人放火烧死KTV中的顾客，这更像是一部老套科幻电影，太没新鲜感了。

要知道，为了防止人工智能对人类产生不利影响，有个组织叫“国际人工智能伦理评审委员会”，还有个机构叫“超算监测中心”。委员会和监测中心，就像人工智能头上的两把利剑，随时可以刺下去，阻止人工智能的发展。