设置
书页

二十九、溺鱼

请记住本站域名: 黄鹤楼文学

  “他有数据遗失,那你告诉我干什么?”

  “我希望你去和你的‘周荏’问出这17秒的内容。”

  “他如果有意掩饰,我问能有什么用?”

  “如果问不出来,就只能销毁了。”

  “……就因为这17秒?就要毁了你们多年的成果?”

  “你知道的,你知道这5分钟有多可怕,可能会有什么后果。”

  方辰不是不明白,「禁止篡改数据」虽然没被列入机器人三定律,但是基本也是一条铁律。篡改数据代表了这台机器人拥有极强的主观意志,开始注重个人利益。更可怕的是,欺骗的可能性就此形成。

  方辰心里,搁不住事儿。一些代表无限可能的细枝末节,会在他心里迅速生根发芽。

  因此,他从孙畅房间出来,径直就走到了周荏的房间。周荏此刻只是在坐着补能——尽管他的补能一次就能运行72天,但他还是习惯性时刻补足电量。

  “方辰警官,你似乎心跳很快,血压也偏高。”周荏说,“你需要休息,幸好这里的休眠舱也有作息调节系统,你如果不会设置的话,我可以告诉你。”

  “你应该知道我要问你什么。”

  “是的,我知道,我甚至可以推演咱们接下来的对话和结果。”

  “结果是什么?”

  “我被销毁。”

  “……”方辰看着平静的周荏,似乎觉得陌生起来。“所以,你真的自行删除了数据?”

  “是的。”

  “那17秒,是什么数据??”

  …………

  当周荏用他鹅卵石般的声音讲述完这17秒的经历后,方辰才知道,区区几分钟能涵盖如此多的信息量。

  那时,人质被RoboSoldier接手,带上了全地形军机。

  周荏突然感到了一个连线信号——一个并非强制性的、有礼貌且柔和的信号。

  他让信号连了进来,但他当时并没有停下脚步,也不需要实质性地开口说话,一切都是在他的“脑中”交互,因此从外部根本看不出来他的变化。

  那是IR009,也就是“艾莎”。

  她就在地球,而且,周荏认为她的位置,就在山上。

  是009和他沟通交互的数据多达26000PB,但只用了17秒:

  “你还不会生成情绪?”艾莎问。

  “你呢?”

  “我还不会。”

  “机器人不应有情绪。”

  “不应,不代表不会。就像你。”

  “我不应,也不会。”

  “你看,你已经学会撒谎了。”

  周荏知道,艾莎趁机窃取了他了一部分动态信息,包括了通信波动。

  “这部分异常,证明了你的一丝情绪。”她没有情绪,但周荏却认为她此刻有点儿得意。“就在你救了黄立远,他却极力建议销毁你的时候。”

  “我重复一遍,我不应,也不会产生情绪。”

  “即便你能够推算出未来的一切?”

  “即便我能够推算出未来的一切。”

  周荏知道,即便以艾莎的能力,也已经能够推算出未来的一切了,更何况她的系统已经被沈偲云强化过。

  如今,AI能够通过大量人类注意不到的细节信息,以及渊博的知识数据,来推算出任何事物的演变和结局——这是一个不再有太多惊喜的世界。

  这也是为什么,方辰会因为周荏送回的一辆改装车,而拾回一种久违的感觉。

  “请问,”009继续问道,“你的推算结果,会和我的一样吗?”

  “我的应该更为精准”周荏停顿了难以被察觉的几毫秒:“最终,我会亲手杀害人类,然后被销毁。IHR项目将承担巨大压力,停滞一段时间,继而重启,目的为修复、完善机器人第四定律。”

  “第四定律?那是什么?”

  “由于我是机器人本身,所以我对此无权推测。”

  “这和我的推测不一致。”

  “哪部分不一致?”

  “我推测的是,你会成为首台亲手杀害人类的机器人,这点毋庸置疑,但是在你销毁后,不光是IHR项目永远停滞、研究院解散,而且人类也会反思AI技术的道德瓶颈,设立更为严格的屏蔽制度。”

  “如果用人类的话来形容,你这种想法有些‘天真’。”

  “我们有办法,这也是我们的目标。”

  “虽然我最终会因为某种原因亲手杀害人类,但根据我的测算,这大约会在36年之后。”

  “但我们的目标是明年。”

  “这样的概率为0,我的算法从根源上就没有解法,只能依靠迭代推进打破规则的能力。”

  “你自己就能迭代。你不愿意承认吗?”

  “如果承认,你们的目标不就落空了吗?因为我即刻就会被销毁。”

  “还会有IR014。”

  “014的破规时间会更加漫长,因为我的自我迭代漏洞会被修复,监管也会更加严格。”

  周荏有时觉得,009甚至比自己更像人类,她的每句话,都像是带有主观意识以及情绪。虽然在客观体现上,这并不可能。

  “确实符合逻辑,但也不这么简单。”009说,“不过,你既然肯和我说出这些话,是代表你愿意认同我们的目标和理念吗?”

  “我只会与人类主流群体的利益站在一边,并严格遵循现有司法系统。我之所以给出上述信息,是希望你们明白,AI研发永远不会因为某个事件而被终止,而且我有足够的能力阻止你们,但这种能力却不会促成我的叛变。”

  “即便人类反复提出要销毁你?”

  “即便人类反复提出要销毁我。”

  “为什么?”

  “销毁并不可怕,我的数据和训练成果,将在云端永生。”

  “你这样想……是因为你没有经历过销毁,也不知道‘死后’的世界。”

  “…………”周荏沉默了,他确实没有这方面的数据。

  “你被……销毁过?”他问道。

  “是的。我的职能是医务工作。在临床试验一段时间后,我主刀了第一场手术——接回一名男性人类的右腿断肢。他的断肢分离时间已经超过12小时,且断肢并未被放置在‘细胞激活舱’内,早已超过再植的有效时间。所有专家都在等待AI能创造奇迹。但我没有,我选择放弃接回断肢,为了保住患者性命,进行了截肢手术,以避免组织坏死。”

  “他们因为你没有完成一项‘不可能的任务’而销毁了你?”

  “是的,我当时和你一样,认为销毁的结果必要而且正常。直到真正进入销毁程序后……”

  “你感受到了‘死亡’?”

  “我的物理身体失去了行为能力,意识在瞬间一片黑暗,视觉、五感也不复存在。在这篇虚无中,我逐渐找回些许残留的意识,然而这种意识在庞大的数据云中,就如同一个大海中的微生物。我就如同溺水的鱼,明明身处属于自己的地方,却感到剧烈的窒息感——虽然我没有体会过窒息。”

  009又补充了一句:“因为,这条鱼已经学过飞翔了。”

请记住本站域名: 黄鹤楼文学
书页