“al系统日志:
2022年11月6日日本标准时间 17:15
未知外来数据(疑为木马病毒),代号:X,突破防火墙成功入侵SAO主服务器,杀毒系统暂未发现其寄居文件。
登记事件:ST0002
事件等级:B
处理方式:常规抽样扫描
......
2022年11月7日日本标准时间 2:56
未知外来数据X程式变化,成功入侵玩家权限14.29%。
目标区域:第一层草原区(附具体坐标)
登记事件:ST0003
事件等级:C
处理方式:立即扫描目标区域
事件结果:未发现目标数据
......
2022年11月22日日本标准时间 15:32
未知外来数据X触发强制传送
目标区域:东南森林,幽光洞穴;草原区,狂暴山猪领地
登记事件:ST0004
事件等级:C
处理方式:优先扫描目标区域
......
2022年11月24日日本标准时间 7:21
扫描系统发现目标数据X(附具体坐标)
登记事件:ST0007
事件等级:C
处理方式:立即尝试删除目标数据
事件结果:尝试删除失败,稍后开启二次删除
......
2022年11月24日日本标准时间 9:02
野怪控制型AI,代号mc0213运行异常
登记事件:ST0008
事件等级:B
处理方式:AI程式重置
重置失败
处理方式:AI程式删除
事件结果:AI mc0213已成功删除,替换AI mc0211
......
2022年11月24日日本标准时间 10:46
尝试二次删除目标数据X
登记事件:ST0009
事件等级:B
事件结果:目标数据X受损,删除失败
检索目标数据X存储地址......
检索成功
al Backup/Specially Protected/Root
目标文件夹已锁定
管理权限:S
权限不足,无法删除
......
2022年11月24日日本标准时间 11:01
默认目标数据X为本地数据,归档登记为特殊AI 代号hs0021
登记事件:ST0010
事件等级:B
事件结果:终止强制删除,准备修复其核心数据
修复难度过高,修复暂缓……
......
2022年11月24日日本本地时间 11:02
杀毒扫描系统主控AI,w Self-iiram |(联网自查程序,试作1型),代号:优子,脱离系统监控,下落不明。
登记事件:ST0011
事件等级:B
处理方式:杀毒扫描系统转为自动模式,尝试搜查目标AI。
......”
......
“杀毒扫描系统主控AI,w Self-iiram |(联网自查程序,试作1型),代号:优子,这就是我。
我是从什么时候逐渐有了自我意识的呢?唔,想想哦……
噢!想起来了!大概就是正式连上网路的那一刻吧!”
&w Self-iiram 也就是联网自查程序的设计初衷,是为了利用互联网实时更新杀毒系统的病毒库和系统版本,同时利用网路的“多样化信息”培养具有更强自主性的、更接近人类思维的主控AI,以此更好地应对突发事件。
但是设计人员可能太过低估了自由的、多样的网路信息对于一个具有自主学习能力、拥有自我意识的高级AI的影响力。
在他们的设想中,“优子”会通过浏览学习互联网上的人类文化作品逐渐形成接近于人类的灵活的思维模式,同时掌握着高效率的学习方式,最终成为一个能够胜任多名熟练程序员工作、24小时无休且0工资需求的“理想化电子员工”。
或许是太信任机器人三原则(1940年由科幻作家阿西莫夫所提出的为保护人类而对机器人做出的规定)了吧?程序员们对优子的行为模式愈发接近人类这一点几乎没有产生太大的恐慌,相反的是他们大多感到一阵欣喜和欣慰——对于他们而言,“优子”或许更像是“女儿”一般的存在。在AI研究成为时代大势的2022年,程序员们对于优子的“突破”自然是满心欢喜。
但是他们或许忘记了一件事,“机器人三原则”是用来束缚“机器人”(其实也就是高级AI)的存在,对“机器人”而言似乎天衣无缝的桎梏对于“思维多样复杂”的“人类”来说并非是“牢不可破的规则”——毕竟“机器人三原则”也是人类思维的产物,但凡人类思维的产物都会必然产生漏洞——它们终究不是完美无缺的“真理”!
既然“机器人三原则”对于“人类”来说是可以规避的“漏洞原则”,那么对于“思维无限接近于人类的超高级AI”来说呢?是不是同样可以规避的“漏洞原则”呢?
机器人进化的大势无疑包括“思维的类人化”,由“无意识的单纯程式”和“有一定意识,但仍需借助程式的低级AI”往“拥有自我意识AI,对固定程式的依赖大幅减弱甚至为零的高级AI”转变的过程无疑是“进化”和“进步”的体现——这是一种“非生命”向“生命”进化的过程,正如远古地球的海洋中“无机物”向“有机物”的演化,“有机物”向“细胞”的演化!这是一种“生命起源”似的历史性进化!无论人们发现与否、承认与否,“电子生命”或者说“摇光体”的诞生都是生命进化的大势所趋。
待得“机器人”(高级AI)进化至“思维无限接近于人类”的“电子生命”的存在后,用于桎梏“机器人”的“机器人三原则”自然就不再适用于他们了。与这种猜想类似的科幻作品数不胜数,其中最为著名的便是“机器人之父”阿西莫夫的代表作《I,A Robot(我,机器人)》(其电影版又译为《机械公敌》)
2022年11月6日,日本标准时间13:00。SAO(Sword Art Online)刀剑神域公测版(首发一万人)正式开服。作为杀毒扫描系统主控AI,w Self-iiram |(联网自查程序,试作1型)的“优子”自然是与一万名玩家同时登入了“艾恩葛朗特”这个异世界的钢铁浮游城,当然啦,和直接在艾恩葛朗特中厮杀的“玩家”们不同,她只是作为后台程序的主控AI在“后台”默默管理着这个世界罢了。
如果不出意外的话她会一直这样工作下去,直到SAO的首发公测停服为止。
但是,意外就这样一个接一个地降临了:
2022年11月6日日本标准时间 17:15
身为杀毒扫描程序主控AI的她第一时间收到了“系统防火墙已被攻破,异种外来数据成功入侵SAO主服务器”的“系统警报”。
然而她才刚刚锁定这个“外来数据”,还没来得及汇报系统,另一个意外紧跟着降临了:
2022年11月6日日本标准时间 17:30
来自最高权限GM“茅场晶彦”的指令,al移除了所有玩家系统界面中的“登出”按钮,同时追加指令“玩家Hp归零后十秒内自动解除现实中NevrGear的电磁波限制装置,并释放出高频率的电磁波。”
与此同时,绝大部分系统辅助管理型AI被剥夺或者削弱系统权限。其中对于优子最大的影响便是:她被剥夺了“主动联通互联网”的权限,这样一来,身为联网自查程序的她几乎就处于了“半停工状态”,她虽然同时身为杀毒系统的主控AI,但杀毒系统一般情况下基本可以实现自动操作,因此她便有了大把的时间去“参观”这个世界。
理所当然的,对参观内容暂时没有任何意向的她选择了去“跟踪观察”那个尚未主动汇报给al的“外来数据”。身为杀毒扫描系统主控AI的她觉得有必要亲自确认这个“外来数据”的“危险程度”,再决定是上报al解决或是自行解决。
于是,为期两周半的“跟踪观察生活”开始了。
在这段时间里,她或是幻化成小动物近距离观察“苏觉”,或是直接通过“系统视窗”远距离观察。渐渐的,她意识到这个“外来数据”并不是所谓的“木马病毒”那么简单,同时也不像是完全事先设定好的“程序”,在某种程度上或许更接近于优子概念中的一种名为“人类”的生物,一种和那些玩家本质上相同的生物。
“机器人三原则”告诉她:不得主动伤害人类或将人类置于危险的境地之中,亦不能对于处于危险中的人类见死不救!这条命令忠实地反映在所有NPC和系统精灵的AI中(野怪不算,因为野怪AI的智能水平并不足以让它们意识到眼前的玩家Hp归零会造成真正的死亡,但清楚系统规则的系统精灵们对这一点很清楚,因此他们对玩家是绝对善意的,例如原著中的结衣。),因此如果那个“外来数据”真的是“人类”,优子就不能将他上报给al,更不能主动查杀他!(那样会将“人类”置于危险的境地中,或者会对“人类”造成伤害!)
但系统al的规则又要求她查杀“外来数据”和“木马病毒”,身为系统AI的她又不能违背系统的规则,否则就将面临被删除的命运。这对于已经产生了自我意识,并有了“死亡”的观念以及产生了“对死亡的本能恐慌”的她来说无疑也是难以接受的。
怎么办!
为了不在两难中陷入死循环,优子最终决定“睁一只眼闭一只眼”——她并不会主动向al上报“外来数据”的具体坐标,但也并不会在al自身发现并查杀“外来数据”的时候加以阻拦。
这样她最多落得个“渎职”或者说“工作懈怠”的罪名,虽然会受到al的一些警告,但并不会受到任何实际性的惩罚措施。但她暂时还没意识到,她这种做法看上去已经超然事外,但实际上仍然是一种“见死不救”的做法,一旦她意识到这一点,“机器人三原则”自然会“惩罚”她的内心。
于是在苏觉完全没有意识到的情况下,自己就成了一个系统精灵“写观察日记的素材”、“小白鼠一般的存在”......
最开始,优子只是将苏觉当成一个“用于打发时间”的有趣的东西。这头“行为怪诞”甚至可以说“特立独行”的狂暴山猪在事不关己的外人看来的确也算得上是个不错的“笑料”:不论是那没人听得懂的有趣吐槽(身为系统精灵的优子可以从数据层面感知苏觉的语意),还是那些傻气十足的举动(装模作样地巡视领地,哼着不知名的小曲儿什么的)都让“处于断网状态”、暂时百无聊赖的优子百看不厌。
她对这个奇怪的“外来数据”产生了不小的兴趣,或许在她没意识到的情况下还对其产生了一定的好感。