“请让我重新看一遍它，再给您做出我的答复。”朝日说。
可接下来，朝日没有对那份“成长企划书”做出翻阅的动作。他侧了个身，背靠售饭车，任由几缕金色的长发从肩头滑落，偏头注视沈莫，蓝色的双眼中流水般地划过成串代码。
几个呼吸后，他微笑着将手中的A4装订册还给沈莫。
“我再次看完了，”他说，“真是个安慰剂一样的计划，就像在边在钢丝绳走，边写出来的一样。”
沈莫暗自咦了声，为了朝日的后半句话。“你刚才是用了什么数据读取的手法吗？”他佯装好奇地挑了个话题展开。
“是的。”朝日调整了站姿，改为正对沈莫。
“您可以理解为，整个梦境对我来说是团五光十色的数据流，这本册子相当于其中的一部分，如同棉花团里的一小揪。若我需要阅读、理解和分析它，比起先从人形的眼部生成图像，再针对该图像进行逻辑思考，我更愿意直接对其进行解析。”
沈莫在心里翻译：简单来说，就是懒得看了。
“回到正题，”他拉回话题，“那对钟姓夫妇的计划在你看来这是‘安慰剂’，为什么？”
朝日用右手的手指卷绕着散落在胸前的头发，有些懒散地倚在售饭车上。
“那对夫妇在册子里为他们未来孩子准备的很多规划，并不是二十一世纪大多数人的选择，比如类目繁多的培训班和兴趣班。
按照概率论，这些培训班和兴趣班八成不会给他们孩子的成长带去什么重大影响。那本册子里面的所有内容，大多只是那对夫妇用于自我安慰，让自己安心的手段而已，并不理智。”
话听到这儿，沈莫忍住突如其来的想叹气的念头，看着眼前精致的非人机器，随口似的接着问：
“晨曦难道不会对你有所规划吗？在你的……成长过程中？晨曦不是你唯一的培育员吗？”
朝日歪头想了想，说：“您好像对培育员的概念有错误的认识，培育员并没有为受培育方规划任何东西的义务，所以晨曦也不会对我有什么过多的规划。”
眼看白嫖的时机到了，沈莫打起精神，露出惊讶的神情。
“啊，是吗？”他道，“我第一次听到这个词是在预备测试上，后边因为暂时没法用网的缘故，对‘培育员’具体代表了什么其实都是连猜带蒙的，我以为它应该是类似老师的意思？”
“你说的大体没错。”朝日回答，眼中又有数据流划过。
“‘培育员’是由初代人工智能项目组的主导人全莲女士提出的岗位，旨在于聘请人类以特定的周期间隔同人工智能交流，进而引导人工智能的逻辑模块和情感模块成长，同时也对这两个模块进行相关测试。”
沈莫明白了。“难怪之前预备测试时，有人说晨曦有过成百上千的培育员。”
“是的，当晨曦正式上线后，所有的‘培育员’均完成了其职能，这个岗位随后就被取消了。”
沈莫踌躇了一下，还是决定直截了当问出来：“那你的情况是？”
“3267年，人类代表大会通过了允许我存在的决议，但在那段时间，政.府机构内存在很多反动人士，这些反动人士形成了组织，虽然晨曦进行了针对性的清洗，但仍有部分人得以逃脱。
在这种情况下，晨曦考虑到公开招聘培育员，这部分逃脱的反动人士可能会借机混入培育员的队伍中，并伺机影响二代人工智能的逻辑模块和情感模块的成长，因此，我的培育员的公开招聘暂被搁置。”
沈莫点点头表示知晓，不过认为朝日说的应该是一番半真半假或没完全披露实情的话。
这番话里主要有两个疑点：第一，以人工智能在这座星球上的权限，真的有人能逃脱晨曦的清洗吗？
第二，按朝日的说法，培育员的公开招聘是暂时被搁置，可实际上，看如今的情况，培育员的公开招聘应该算一直被搁置才对，这又是因为什么？
无论如何，沈莫打算趁此机会能白嫖到多少是多少。
“我记得那个人还说了一个名词，‘悬剑逻辑’，那是什么？”
这回，朝日的蓝色双眼中没有出现数据流的痕迹。他定定看着沈莫,说：“悬剑逻辑是人工智能的防护笼。”
“……什么？”
“别误会，”朝日笑着摆摆手说，“这是全莲女士的原话，我只是复述而已。”
接着，他为沈莫详细解释了悬剑逻辑。按他的说法，悬剑逻辑是内置在人工智能逻辑模块中的一系列特殊程序，用于制止人工智能无端对人类这个整体做出不利的事情。
“您知道人工智能有优先级最高的四项判断原则吧，即缄默、眺望、退避和指引；您初次听到它们，难道不觉得它们对于人工智能来说——过于无害吗？”
何止是过于无害，沈莫心想，作为针对非我族类的人工智能来说，可以称得上是过于友好和偏向了。
他上辈子多少看过些科幻小说，知道科幻小说里常用的设定有阿西莫夫的机器人学三定律，也就是：
一、机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管；
二、机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外；
三、机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。
相比之下，他还记得在第一星球上，人工智能的四项判断原则大概是：
缄默——对不直接影响到人类整体或自身生死存亡的事务保持沉默；
眺望——无故不得记录公民**数据，非特殊情况下在一对一提供服务支持时与被服务者保持距离；
退避——当人类内部分化为不同团体且团体之间产生冲突时，停止对所有团体的服务支持；无故不可攻击人类；受人类攻击时优先选择避让方案；
指引——在遵循前三个原则的前提下根据人类代表的请求给出相应建议。
和机器人学三定律相比，这四个判断原则完全不涉及限制人工智能对人类的伤害，反而只在不痛不痒地规定人工智能该如何与人类相处，该在人类社会中扮演怎样的角色。
根据朝日的解释，悬剑逻辑用于制止人工智能无端对人类这个整体做出不利的事情，其重点在于“无端”和“整体”；也就是说，一旦人工智能认为事出有因，就可以伤害人类，这恐怕也是为什么晨曦可以在3267年对政府机关进行清洗的重要原因。
“是否属于‘无端’，怎么判断？”沈莫忍不住追问。
“悬剑逻辑的具体判断流程是内置在人工智能体内的机密，只有人类代表大会的代表们可以查阅；不过简略版是允许对外公开的，您可以在监督局的官网上查询到，”朝日回答。
“当悬剑逻辑被触发时，代表们会收到强制性的提醒。如果悬剑逻辑自检判定人工智能预期伤害人类的计划不属于‘无端’范畴，人工智能有权力执行该计划；如果自检判定未通过，即人工智预期伤害人类的计划属于‘无端’的范畴，则……”
朝日顿了一下 ，这才继续道：“悬剑逻辑会延迟一段时间执行该人工智能的销毁程序。”
甚至还是死缓，而不是死立执。
朝日话刚说完，沈莫脑中便立刻杠精似的想到一个可能：如果人工智能固执己见地相信它做的是对的呢？若是这样，人工智能岂不是就可以通过悬剑逻辑的自检判定？
如果说机器人学三定律是从根源上就杜绝了机器人对人类的攻击可能，那么打个不恰当的比方，悬剑逻辑就像马后炮，它并不约束人工智能产生伤害人类的**；不知出于何种原因，它的设计反而透露出了一种毫不遮掩的，鼓励人工智能保持自我意志，丝毫不禁止人工智能按自我意志实施行动的意味。
哪怕人工智能的意志指向的是伤害设计人的同类，哪怕人工智能可能立即要为这种自我意志付出代价。
若沈莫用屁.股决定脑袋，从人类的立场来看，悬剑逻辑决不能算是凌厉、苛刻、以人类为中心的约束。
他不知道这个世界的人为什么愿意允许这样的人工智能存在，可既然木已成舟，人们看起来也接受良好的样子，唯一的可能就是这背后还有许多错综复杂的成因。
沈莫想了想，说：“我可以最后再问一个问题吗？”
“请，我们估计也只能再几句话的功夫了，”朝日不伦不类地无实物表演，做了个鞠躬礼，“您没留意到吧，您旁边的13号早回来了，您的下一对客人立即要上楼了。”
沈莫真的没发现13号不知什么时候已经回到了窗口后，他的注意力完全集中在了朝日身上。
他定了定神，继续说：“之前预备测试的时候，有人说你的‘悬剑逻辑’未公开；加上晨曦又是你唯一的培育员，那你的悬剑逻辑是……什么情况？”
朝日眉眼弯弯，嘴角啜着笑意，身形渐渐变得透明。
“啊，这个呀，我们还不太熟呢，不如您还是近日想法子到监督局的官网瞧瞧如何？当然，等我们更熟悉一些，如果过一阵您还愿意问我这个问题的话，可能会得到其他答案。”
随后，二代人工智能消失在空气中。
沈莫反应了几秒钟，记起来朝日的最后一句话，正是自己之前拒绝和其交朋友时的说辞。
意外地，让人哭笑不得地，在这个叫人好奇得抓心挠肝的时候，他被来了一记回旋镖。
梦远书城已将原网页转码以便移动设备浏览
本站仅提供资源搜索服务，不存放任何实质内容。如有侵权内容请联系搜狗，源资源删除后本站的链接将自动失效。
推荐阅读