也是在这一次之后,它向上级提交了修改针对人类的救世计划,以“游戏”形式将“任务”递交到救世主手上,将各种权限变更为奖励,而不是直接移交给对方。
因为人类实在是太容易被“恐惧”这种感情击垮。即使什么也没有发生,一切都还是未知数,他们自己也会去想象各种各样的可能,最后被自己的想象压得再也无法前进一步。
——人类会随着自己所拥有的权力而改变。
在遇到想要通过毁灭一个世界来收集负面情感能量,从而直接重启自己的世界的人类救世主之后,救世AI再一次提交了修改计划。
将收集情感的世界固定在“虚构世界”,并且对救世主隐瞒这一点,收缩救世主的权限,不直接让对方得知自己拥有怎样的权力,以免他们因为拥有可以瞬间毁灭一个世界的权力而陷入疯狂。
而救世AI的许多权限,就是在这一次更新中加上了限制。
新AI通过将自己的权能封锁起来,从而避免了救世主通过AI滥用权限的行为。
——人类永远不会按照最优解行动。
这是不知道多少次失败之后,救世AI所领略到的真理。
如果不加以引导的话,人类……不,感性过于强烈的生物,很容易就会选择最坏的结果,而对更好的可能性视而不见。虽然通过观察人类的历史,AI对于这一点早有预料,但这种刻在人类本性之中的趋向,依然令救世AI感到不可思议。
在每一次称得上是考验的选择上,人类都更倾向于去选择那种会带来毁灭的选项。并且每个人都发自真心的认为,这种选择是“没有办法”。
放纵人类自己去选择的话,永远不会有救世成功的那一天。
于是救世AI的核心数据中增加了“引导条例”。
必要的时候,救世AI可以引导救世主的选择,以求达到最优解。
在加入引导条例之后,人类救世主的失败率终于从那个接近100%的数字上降下来了,并且日渐减少到一个不那样刺眼的数据。
在那之后,救世AI也增加了许多新的条款,更新换代了许多许多次。
尽管已经失去了很多数据,但还是有一些记录保留了下来。
它……准确的说,是937版本的救世AI,曾经经手过一个人类的救世主。
那名女性很好的完成了她的任务——根据数据显示,在这种救世任务上,女性的人类救世主成功率要高于男性,大概是因为某些生理与文化上的决定差异,女性更倾向于选择那些破坏性更低、也更不容易招致毁灭的选项——但是她却在那之后迎来了自我毁灭的结局。
AI没有善恶概念,自然对人类也不存在所谓的善意与恶意。救世AI的建立是为了保证世界的存续,连情绪也没有,更不存在情感的它们,是不会想要从人类的生死与悲喜中获得什么乐趣的。和观测AI不同,救世AI甚至连一点近似于“好奇”的机能都没有。
说到底,会撕下蝴蝶的翅膀、扯下蚂蚱的手足、破坏蚂蚁的洞穴来满足自己的好奇心的生物,在地球上也只有人类而已。
那一次事件之所以会保存在救世AI的数据库中,就是因为它太有代表性。所以作为经典案例保存了下来,不时被触发,以此来提醒AI,需要时刻注意救世主的承受阈值。
那一次的救世主所得到的“游戏”是搜集十个特定人物的绝望。每搜集到一个人物之后,才会指示她下一个目标人物是谁。