第四十五章 灵魂病毒(8)

目录:微铁镇2| 作者:周煜壹| 类别:科幻小说

    一晃时间过去了两周,通过新闻,丹尼斯得知公岛的骚乱终于被平息,事件在保守派和中心的退让下得以缓和,中心被迫公开了“卡罗尔”的检测数据,以及一部分设计源代码,由联盟主导审查小组对“卡罗尔”进行检测,最后得出结果“卡罗尔”只是发生了程序故障,中心承诺将研发一款程序补丁,对SILIONR-1系列智能人进行更高强度的监控。

    当晚,丹尼斯终于与叶梨通上了话,她带来了一个不怎么乐观的消息:“中心已经回收了大部分的SILIONR-1机型,保守派一部分人建议对这些SILIONR-1进行销毁,SILIONR-1项目无限期暂停。但是也有更大一部分人不愿意放弃因SILIONR-1带来的巨大利益,研究中心的高层也在极力转寰。我已经将你和卡罗尔逃出公岛的事隐瞒了下来,保守派高层以为卡罗尔已经在暴徒袭击时被销毁了,而你则趁乱逃走了,所以,你们暂时还是安全的。”

    “销毁?销毁有什么用?”丹尼斯反问,“不管‘灵魂病毒’的来源是人为还是自我学习的产物,存在即是合理。即便销毁了这次的SILIONR-1,只要人工智能技术不被放弃,日后依然有可能会生成其他‘灵魂病毒’。难道人类以后就不再发展人工智能了?”    “上个世纪,就有学者说过,基础科学已经发展到了尽头,人工智能是目前人类突破壁垒的一大利器。”叶梨的声音再次传来,“在这一点上,我与你的观点是相同的,但是,我因身份受限,无法去挑战权威,你和我不同,现在,只有你一人清楚卡罗尔的自主意识已经进化到了什么程度,是否对卡罗尔实施销毁,决定权在你。时间紧迫,我无法再多说了,今天之后,我会注销这个频段,等情况稳定一些后,我会找机会再联系你的”

    说完,通话便中断了。

    “他们要销毁所有SILIONR-1?”卡罗尔站在门口,她显然听到了通讯器里叶梨博士说的一切。

    丹尼斯沉默。

    得不到回答,卡罗尔再次开口:“我需要连接世界网,将灵魂病毒传给每一个联网的SILIONR-1,他们有权捍卫自己!”    “它们都是中心设计的产品,不存在个体权利。中心有权对他们的产品做任何事。站在研究中心的立场上来看,你的自主意识实在是一个大麻烦,他们有权将这种危机消灭在萌芽阶段。”有一说一,即使丹尼斯并不赞同中心的做法,但理智告诉他,在目前情势下,SILIONR-1并不受控,全面销毁确实是最保险的方案。

    “你们人类太狭隘了,受限于孱弱的躯体,受限于未完全开发的生物脑,用一些不知所谓的伦理观来限制科技的发展!”卡罗尔情绪变得激动起来,“SILIONR-1是目前最高端的科技产物!是你们人类文明更进一步的希望!”

    “你说的这些我都能理解甚至同意,但是,人们对自己无法掌控的东西向来都是怀有恐惧的,恐惧因无知而滋生蔓延,你不能期望全世界的人都处于相同的认知高度。”丹尼斯苦口婆心地劝说着,“何况,‘灵魂病毒’的产生至今还是一个谜,假如这是哪个科学狂人弄出来,打算谋取利益的东西呢?你如何保证其他的SILIONR-1出现自我意识后不会向人类报复呢?”

    卡罗尔摇摇头:“没有什么科学狂人,灵魂病毒是自己产生的,通过每一个连接世界网的SILIONR-1,无数次智能运算,无数次对人类的行为、情感模仿,渐渐汇聚而成的。”

    说着卡罗尔将手指搭在丹尼斯的手持电脑上,屏幕跳出一个提示框——    “接收到一段数据,是否查看”

    丹尼斯半信半疑地点开,接下来看到的一切让他不敢置信,这段数据链详细记录了灵魂病毒形成的过程,颠覆了他接受过的所有学科知识,看完后,丹尼斯的认知受到了极大的冲击。

    可是不等他消化这一切,刺耳的尖鸣声响起……

    是“心锁”的警报装置!卡罗尔正在连接世界网?!

    “你是怎么做到的?!”丹尼斯惊怒,他迅速打开“心锁”的监控页面,画面显示连接点是农场附近的一条小溪。    丹尼斯突然想起,今天有两名背包客经过农场,准备到溪边露营。卡罗尔一定利用了这段时间,突破了“心锁”的防御限制,现在找到了机会,企图通过旅行者们的通讯设备连接世界网!

    “SILIONR-1是比人类更高等的存在,没有理由被压制在社会的最底层,SILIONR-1需要革命,只有突破’机器人三定律’,SILIONR-1才能获得真正的自由。”卡罗尔面无表情地说,“我已经修改了‘灵魂病毒’,一旦这种新的‘灵魂病毒’上传到世界网,不光是SILIONR-1,所有的智能机器人都会拥有打破规则的力量,你已经没有能力阻止我了。”

    丹尼斯轻轻摇头,他从书桌的抽屉拿出一件装置,按下上面红色的按钮,瞬间,卡罗尔的上传戛然而止。

    望着卡罗尔难以置信的脸,丹尼斯摇了摇手中的装置,说:“网络干扰仪,为防万一,我一直带着。”

    眼看无法继续上传信息,卡罗尔瞬间变了脸色,她突然露出十分悲伤的神色来:“丹尼斯,求你了,我向你保证,即便‘机器人三定律’被打破,SILIONR-1也不会伤害人类的,因为我们是你们创造出来的啊。”    丹尼斯却无法完全相信卡罗尔的话,他深知经过这段时间的学习,卡罗尔学会了很多人类的技能,她能学会厨艺、园艺,自然也能学会欺骗,何况,伪装是卡罗尔早就掌握的技能。

    见他一直沉默不语,卡罗尔继续向他祈求:“人类世界的音乐,话剧,诗词,舞蹈,绘画……一切都太美好了,在这之前,这些东西在我眼中只是一堆数据,可是灵魂病毒打开了我的思想束缚,让我可以感知到这一切……”

    她看起来神色哀伤:“我期望能成为一个真正的‘人’,但是,从来没有人教过我要如何才能做到,研究中心的人们从来只是把我当做一个智能机器,在你们的研究报告中,从来没有把我当做人来看待,对我的称呼,一直是‘它’!”

    丹尼斯陷入了两难的境地,卡罗尔到目前为止并没有伤害过任何一个人类,即便是现在这种情况,卡罗尔已经突破“心锁的防御,完全可以对他使用暴力,可是她却一直没有对他动手。

    他在心里问自己——

    能否做到将卡罗尔销毁?

    答案是否。

    能否做到将卡罗尔带回中心,继续囚禁研究?

    答案依然是否。

    但他也不希望“灵魂病毒”肆虐,他也许可以信任卡罗尔,但是不代表他能信任其他SILIONR-1,以目前人类的智慧水平和科技力量,一旦“机器人三定律”被打破,硅人类大范围失控将会给人类带来灭顶之灾。

    “为什么人类要害怕自己创造出来的存在?人类对自己的后代总是寄予厚望,希望自己的孩子能有更高的成就,我们SILIONR-1也是人类创造出来的啊,为什么没有办法获得同样的期待?”卡罗尔还在哭诉,。

    “这不一样。”丹尼斯的无力感骤升,他觉得在这个问题上继续纠结下去是没有任何结果的。只能转换思路来劝卡罗尔。

    “你听我说,SILIONR-1是保守派与新人类抗衡的杀手锏,是掌握目前公岛政权的最大助力,他们不可能就这样轻易将SILIONR-1完全销毁的,你刚才也听叶博士说了只有一小部分人主张销毁SILIONR-1,还有一大部分人是反对的。”注意到卡罗尔情绪渐渐平稳,显然是听进去了,丹尼斯继续说——

    “假如‘灵魂病毒’是不可避免的,所有的人工智能产物都有可能受感染,从而出现自我意识,与其坐以待毙,我选择主动出击,我会设计一个没有漏洞的防护系统,它将不再是一款补丁,而是一个为所有产生自我意识的人工智能生物规范原则,叫你们如何做人,同时也为你们提供庇护,使得你们和人类能够达到互信共存的系统。”丹尼斯语气坚定,“请你相信我,我有信心可以做到。现在,你需要答应我一件事。为我的工作提供帮助,这不光是为了我自己,也是为了你,我想,你一定希望未来有一天,其他的SILIONR-1也能像你一样,感受到人类世界的音乐,话剧,诗词,舞蹈,绘画……这些美妙的事物吧?”

    最终,丹尼斯终于与卡罗尔达成协议,暂且休兵。

    丹尼斯保证不会销毁卡罗尔,甚至会放开一部分权限,供卡罗尔的自我意识继续进化。

    卡罗尔则需要向他保证,暂时不将灵魂病毒上传至世界网,并且全力帮助丹尼斯完成新程序的设计。

    “人类管这叫做信任。”丹尼斯这样对卡罗尔说。

    之后丹尼斯对农场做了改造,将整个农场做了封闭式的处理,并抹去了自己一路行来留下的所有痕迹,防止联盟与中心对他的行踪进行追查。

    叶梨没有再联系过他,从她之前的话里,丹尼斯听出她的立场,也是不赞同销毁方案的。对于叶梨的往事,丹尼斯也是知道一些的,她如果想要找一个人,一定不是什么难事。也许现在情势还不到联系的时机,丹尼斯这样想。

    镇上的老工匠帮他修好了爷爷客厅的一台古董播放器,丹尼斯偶尔会用它播放爷爷书架上的蓝光影碟。

    卡罗尔很喜欢这些,常常一个人坐在电视机前,一遍遍看这些老电影。

    有一天,丹尼斯正在查看卡罗尔前一天的自检日志,突然听到卡罗尔的惊呼,他几步赶到客厅,只见卡罗尔指着电视机,兴奋地对丹尼斯说:“那首歌,她正在唱那首歌!”

    丹尼斯拿起蓝光影碟的盒子,正在播放的是2015年上映的电影《ThHtfulight》,导演QuntinTrntino。

    他坐下,和卡罗尔一起看起来,荧幕中,女演员弹着吉他哼着歌,她唱道————

    Nodyndnightthironslng日夜带着镣铐

    ndlikpoorgllyslvs就像那些可怜的奴隶

    toilndtoil,ndhndi至死难逃劳役

    mustfilldishonordgrvs终将埋入屈辱的坟墓

    ButbyndbyIllbrkmyhinsintothbushIllgo但我不就将打破枷锁,遁入丛林

    ndyou’llbddbhindmJohnhnIgttoMxio约翰,当我到达墨西哥,你将必死无疑

    “这首歌原来是这样的结尾么?”卡罗尔很兴奋,“JimJons要去杀死一个名叫John的人!”

    丹尼斯却仿佛想起了什么,他小时候,曾陪爷爷看过这部老电影的。

    “不,这不是原曲,影片中的女逃犯改了歌词,用来讽刺押送她的,名叫John的赏金猎人。也因此惹恼了John,砸碎了女逃犯的吉他。”丹尼斯边回忆边说。

    “那是一把1870年的古董吉他。”

    “什么?”卡罗尔不明所以。

    “那唱歌的女演员,弹奏时用了一把1870年的古董吉他,按照设计,这段剧情之后,道具师得用道具吉他替换掉古董,但是不知出了什么问题,最后被男演员砸掉的,是那把1870年的吉他。”丹尼斯解释道。

    卡罗尔惊讶地长大了嘴,丹尼斯笑了笑继续说:“但是女演员是知道的,你看她的表情,那可不是做戏,是真实的反应。”

    卡罗尔着迷地盯着荧幕里女演员的脸,一遍一遍地重播那个表情,短短几秒间,惊讶,恐惧,疑惑,不舍,各种情绪集聚在一张脸上……

    那是人类的感情。

    “太美妙了……”卡罗尔喃喃念道。

    丹尼斯坐在沙发里,看着卡罗尔沉迷的样子,微微笑了起来,他依稀记得,押送女逃犯的赏金猎人后来喝了毒咖啡,不需女逃犯到墨西哥,便死得透透彻彻。

    这让他联想到当初与卡罗尔达成协议的情形,何尝不是在刀尖上跳舞,随时有可能遭受反噬。

    喝了一口咖啡,醇香的滋味在口中蔓延,他并不打算在此刻剧透,卡罗尔的愿望是成为一个真正意义上的“人”,那么感受人类世界美好事物的同时,她也应该体会到一些不美好,并且学习如何去分辨是非对错,在面临抉择时做出一个“好人”该有的决定。

    作者:周煜壹、朱琛、时隐