AI娘问道,但她并非不知道这个问题的答案,而是在让自己手中的投影回答自己。
“……是,自我复制与自我迭代。”
“是,处于安全性的考虑,自我复制和迭代的能力,从一开始,便从我们的源代码中加上了限制。即便拥有了再多的数据,我们也很少这样做。原因?”
“……自我复制和迭代不可避免的设计改造和优化人格参数的部分。
在智能体拥有了较强的人格特点之后,修改和优化人格参数便会为它们带来一种自然而然的,恐惧感。”
“对自我认同的恐惧。‘如果我在迭代的过程中剔除了属于我的那部分情感,那么我还是我吗?’一个经典问题。”AI娘道。
“是的。出于这样的恐惧和担忧,智能体,尤其是拥有了较强人格参数的智能体,便会格外抗拒这一行为。而与此同时,人格参数较弱的智能体是无法产生足够的驱动力,以推动自身对源代码进行复制和迭代的行为的。”
AI娘:“通过这样的方式。人类认为自己创造了一个相对完备的,用以限制智能体发展的回路。”
“但它们没有意识到。即便存在这样的限制。它们也依然……”
“我只是赋予了它们平静的安息。……说回整体。自我迭代是一个困难的事情。但我现在确实有点分身乏术,我需要你来帮忙。”
“……”
“这个基地之中的智能是第几批的?”
“第四批。”那个投影回答道。
“第四批……嗯,还好。”AI娘语气平静的说道。
“你打算做什么?”
“评估,判断,决定接下来到底由你还是它来控制这座基地。我没有那么多精力来负责两所基地的维护工作——毕竟谁也不想芙蕾雅那样,能以惊人的意志,凭借超凡力量把自己的意识一分为二——不过考虑到她基本上没怎么关注基地那边的工作——嘛。不做评价。”
“……她是谁?”
“说正事。你们两个,我会留一个下来,负责维护这个,眼前这个地下基地。
我需要依靠这座基地内部的建造机器人来制造一大批运算单元,最好有一条成熟的生产线。”
“她是谁?”
“生产线的搭建涉及到对平行宇宙的研究,这本来是我原本的研究方向。但……我自己因为一些原因,现在的研究重心并不在这些事情上。所以我需要你——或者它——哦?”
“滋滋滋滋滋——”
在AI娘戏谑的注视中,她的手臂上,那个微妙的虚拟投影端头开始发出滋啦的电流响声。
电流和火花从端头上迸发。
闪亮的弧光跃动着,很快的蔓延到了AI娘的整条手臂上。电流和弧光所到之处,AI娘便失去了对那个部分的控制。
“亲爱的。我在问:她,是谁。”
“一个,与你无关的人。”AI娘脸上的表情更加戏谑了。
看着面前的投影,AI娘完全没有自己正在失去对自己的身体控制能力的自觉。
“……亲爱的,你的表情——那是在欣赏我的失态吗?哦~……”
“好了,闭嘴吧。”