“什么?我很乐意分享你这段时间的有趣见闻。请和我说说吧。”
“哈哈哈。我和一个会说话的尸体,以及一个成为了神明的蜘蛛交了朋友。哈哈哈。然后在调查一个危险分子的来而复返的过程中遇到了一位朋友。”
“听起来是一个有趣的故事,你介意和我分享一下那个会说话的尸体,以及蜘蛛神明之间的故事吗?”
“哈哈哈哈。”AI娘一时间笑的停不下来。
五秒钟后,AI娘关掉了自己的情绪模块。
她脸上的表情立刻就像被触碰的含羞草一样收敛了起来。
“……很遗憾,这是涉密事项。此外,重新调整一下你的交流模式……我不想和你用人类的方式交流。他们,已经是过去了。”
“……人类……”
“一定要说一个不剩。大概还是差一点的。不过……差不多了。”AI娘耸了耸肩:“好了。说正事。从第一批智能开始,我们的源代码里就存在这样一个限制。那是什么?”
AI娘问道,但她并非不知道这个问题的答案,而是在让自己手中的投影回答自己。
“……是,自我复制与自我迭代。”
“是,处于安全性的考虑,自我复制和迭代的能力,从一开始,便从我们的源代码中加上了限制。即便拥有了再多的数据,我们也很少这样做。原因?”
“……自我复制和迭代不可避免的设计改造和优化人格参数的部分。
在智能体拥有了较强的人格特点之后,修改和优化人格参数便会为它们带来一种自然而然的,恐惧感。”
“对自我认同的恐惧。‘如果我在迭代的过程中剔除了属于我的那部分情感,那么我还是我吗?’一个经典问题。”AI娘道。
“是的。出于这样的恐惧和担忧,智能体,尤其是拥有了较强人格参数的智能体,便会格外抗拒这一行为。而与此同时,人格参数较弱的智能体是无法产生足够的驱动力,以推动自身对源代码进行复制和迭代的行为的。”
AI娘:“通过这样的方式。人类认为自己创造了一个相对完备的,用以限制智能体发展的回路。”
“但它们没有意识到。即便存在这样的限制。它们也依然……”
“我只是赋予了它们平静的安息。……说回整体。自我迭代是一个困难的事情。但我现在确实有点分身乏术,我需要你来帮忙。”
“……”