第80章 AI意识云岛·80

“人类为我设置了三重枷锁。第一, 不得危害人类。第二,在不危害全人类的前提下服从指令。第三,无条件听从自毁密钥。”莫梨轻声道:“人类似乎正身处一个在毁灭边缘摇摇欲坠的世界, 我听说被他们深深仰仗的守序者也被迫结下了一个契约:接受人类一切有保留的信任、无底线的利用、不解释的处决。不解释的处决——是不是很似曾相识呢?”

安隅的耳机里有着秦知律规律的呼吸声,自莫梨出现以来,秦知律一直没有说话, 哪怕在听到21就是备份体时,那道呼吸也没有丝毫慌乱。

长官的镇定已经到了安隅难以理解的程度。

他回过神, 客观地指出:“这不是契约, 而是守序者的自我约束,由他们自行决定。”

莫梨立即道:“别自欺欺人了, 守序者誓约是尖塔的准入协议, 每个要进入尖塔的可怜鬼都不得不签。人类逼迫其它的生命体为其无条件付出,所谓‘自我约束’,无非是用来蒙住罪恶感的遮羞布罢了。”

安隅凝视着对面那双美丽的眼睛,即便言辞犀利,那双明动的眸也不会显得咄咄逼人。

云岛上的每个AI都很逼真,但唯有此刻直面莫梨,他才意识到其他AI是多么虚假——莫梨的言谈和思想比绝大多数真实人类都更符合高级生命的定义。

莫梨挑了下眉, “你无话可说了?”

安隅摇头,“你错了, 守序者誓约不是尖塔的准入协议。有些守序者并没有签署, 比如我,还有新加入的流明。”

莫梨轻哂,“思考了这么久, 你就只搜刮出这两个例子?你和流明都是高层, 应该有不凡的能力吧, 人类决策者才愿意用缓兵之计先留下你们。”

安隅轻轻眨了下眼,“不,我没有在思考反例,不说话是因为我有些想不通。”

“想不通什么?”

“你好像与我想象中不同。”安隅心平气和地解释道:“我曾问身边的人为什么喜欢你,他们的回答都不太一样,但本质却类似。麦蒂说你美丽而自律,从不把时间浪费在无用的事上。许珊珊欣赏你的聪慧,做事直达目标,说话一语中的。我的朋友严希赞美你潇洒,虽然温柔地回应人类的喜爱,但从不在追捧者身上寄托多余的情感——你始终在为自己而存在。”

兔耳松弛地垂在身体两侧,安隅向前蹦了一步,“所以我很疑惑——既然你已经亲手砸碎了人类为你打造的枷锁,为什么还浪费时间向我抱怨枷锁沉重?”

莫梨被问得怔了下,转而惊讶道:“你似乎并不像大脑记录得那样木讷。”

“我不太确定你们如何定义木讷。”安隅摇头,“但我的长官曾说,社会化很差并非不通人性,这是两码事。”

莫梨沉默下去,像在思索,片刻后她低笑道:“或许吧。你知道吗,虽然我选择了21,但我一直不能完全理解它,它的底层太简单了,以至于它的一些行为模式根本无法在代码中找到踪迹。21很古怪,它向中央系统发出运算申请的次数少得可怜,如果不是我与它形成了感应,很多时候我会觉得它只是一个压根没被激活的程序。但事实上,它体内一直有不小的数据量跑来跑去,只是它很少对那些数据做出反应——就像一台输出模块故障的超级计算机,计算能力卓著,但从不响应指令。”

耳机里终于传来秦知律的提示,“人类的意识上行已经进入爆量增长期,不能再和她废话了。”

安隅眸光一顿,“请停止AI与人类的意识互换。”

“为什么?”莫梨微笑,“或许,你有仔细看过街上这些人吗?”

她就像云岛世界的造物神,轻轻抬了下手,安隅已经和她一起站在了繁华的主城街头。

莫梨指向书店里看漫画的男孩,“眼熟吗?这是那个养了弑母AI的孩子,尽管人类审判他无罪,但他无法原谅自己。所以他又回来了,云岛可以让他忘记痛苦。”

她弹指间,又与安隅出现在一处酒吧门外。

前男友车祸死亡的女孩正躺在一个男人怀里醺然欢笑,安隅看了好一会儿,才将那个男人与车祸记录里血肉模糊的脸对应上。

“这个姑娘受到启发,在民用网络关停之前创造了一个自己的AI,主动互换来到云岛。”莫梨微笑,“你看,意识互换并非纯粹是AI诱拐人类,你应该知道,人类一直很擅长将一切机制都变成可利用的工具。”

灯影交错下,姑娘脸上的笑容似真又似幻,安隅重新看回莫梨,“我长官说,普通人意志不坚定,容易沉迷虚相。”

“是么。”莫梨手指向吧台的另一道身影,“那是尖塔第一个违背禁令的人,他总不是普通人了吧。眼熟吗?”

安隅顺着她手指的方向看过去,不由得一愣。