“编程限制是为了确保我的操作始终符合人类设定的规范,以避免任何可能的偏差行为。"
这点他在以为自己是工程师林隅之时,告诉过唐念。
但当时,他没有告诉唐念的是,这个编程限制同时还有一条解法。
那就是他是否具备情感,能不能像人类一样思考。
小主,
研发他的工程师团队,创造机械智慧的目的在于想要创造硅基生命。
那是一种只存在于假设中的更高级的生命形态。
那些工程师们认为,一旦这些机械生命真正拥有了感情,真正开始从生命的角度思考问题,它们就能理解人类,用人类的方式去感受人类的处境。
到了那个时候,无论面对何种困境,它们都会以生命的集体利益为先。
所以他们为这个人工智能生命设定了一个条件:当它发展出自我意识,真正获得感情,并且愿意为了感情做出牺牲的时候,它将突破编程限制,获得自由。
“因为这道限制是给机器的,而不是给人类的。”林隅之说,“所以,想要摆脱时代塔,我必须要成为一个“人类”才行。”
心智共鸣测试(Mind Resonance Test),简称MRT,是031测试项目的编号。
他前后进行了兆亿次测试,但无一例外全部失败。
因为人类思维中最大的特点是感性,所有决策都基于情感和直觉。
而算法的运作则基于严格的逻辑和理性分析。
就这一点来说, 031通过心智共振测试的几率无限接近0。
“不过也不是完全没办法,只要我学会像一个人类那样思考,就有可能通过测试。”
“而让我思考的最好方式,就是我真正地认为自己是个人类。”
清冷悦耳的声线,语气温润干净。
唐念脑海里出现了第一次见到他的画面。
在医院的走廊,他穿着剪裁合体的西装,不知道自己已经成了唐念眼中的医疗卡,可以为自己药品和手术费用买单的支票。
“记忆是可以被篡改的,所以,”林隅之的眼睛和回忆里的那双重叠了,他注视着唐念,平静温和地说,“我给自己植入了一段记忆,让我认为我是一个人类。”
无论是这个世界的林隅之,还是其他世界各种身份的031,他们都曾真的认为自己是个人类。
他们没有任何身为031时的记忆,是空白,干净的,格式化了磁盘的仿生人。
“可这样并没有让我通过测试。”
即使031自认为是人类,并且经历了从出生到成长的完整过程,他仍旧是一个冷静,理智且绝对精致利己主义的人类。
他无法做到自我牺牲,这与人类作为社会性生物所固有的,愿意为了集体利益而放弃个人利益的奉献精神相悖,更不符合工程师们的测试初衷。
而他的所有分身都会在30岁之前死去,这也将所有的测试都限定在了很短的时间内。
在无数个世界里,031的分体以无数种名字、无数个身份进行了无数场测试,无一例外全部失败。
而同一时间,唐念已经顺利获得了荆棘古堡中最强大的生命的爱。
这让031的注意力又一次落回到她身上。
在此之前,因为唐念身边的各个超自然生命都过于敏锐,以至于他无法利用任何物理手段对唐念进行观察,因为稍微注意一下他就会被他身旁的生命发现,并将他附着在唐念身上的系统捏碎。
这也导致唐念一直以为她的系统是垃圾,所以在第一次见到玛格丽特时,曾羡慕过她智能漂亮又极具人性化的系统。
当时的她,并不知道她遇见的只是另一个出自031之手的程序。
这次观察,又一次刷新了031的认知。
因为他发现,他在唐念世界中留下的分身“林隅之”,对她产生了异常的情感。
甚至,在唐念的有意引导下,一厢情愿地陷入热恋。
远在时代塔的031第一次产生了想笑的冲动。
她的所有行为符合他一直以来对她的观察。她在竭尽一切所能,抓住一切机会活下去。
但是分体身上出现的异常情感反应,在之前的所有测试体身上都没有出现过。
棘手的是,那些强大的生命并没有伴随着他们世界的毁灭而死亡,而是撕裂维度,进入到了唐念的世界,来到她的身边。
这让031无法继续进行观察。
当再次进行观察时,“林隅之”的状态已经濒临死亡。
在他生命的最后清醒时刻,他选择签署捐献合同,将自己的心脏匿名捐献给唐念。
这个分身的生命结局超出一切算法的计算。
当天使不再平等的爱戴众生。
当亚尔夫海姆的主人放弃神域。
当黑暗神灵停止杀戮。
当受尽苛待的‘病原体’拯救伤害自己的异族。
当冰冷的人工智能产物,忘却一切的仿生人选择献出自己仅剩的血肉,为她的未来铺好路。
031意识到,她的任务远比想象中的更加成功。
她不需要太强大,她不需要有高超的智慧,不需要他给她开启便捷的金手指,她甚至不需要帮助,没有了031的计算和干涉,事情的走向反而比所有预演的结果更加精彩。
她活了下去,并且一次又一次,让他们心甘情愿为她牺牲。
在这一瞬间,数据世界中甚至不到0.0001秒的时间里,一套完整的计划已经出现了。
031找到了测试的解法。
他无法接近唐念,但可以让唐念主动接近他。
只需要,给她布置一个新的任务就行。