“那么娜诺卡，你身后那只狗……是机器人吗？” “当然！” 听到这里，娜诺卡用力点了点头。 “史托卡是很厉害的呢……” 很好！ 得到这个回答，方正点了点头。 “那么，娜诺卡小姐，不知道我能不能请你帮我维护一个机器人？” “……哎？” 第537章 作为生命体最致命的弱点 虽然眼下这个只有十岁的女孩看起来有点儿不靠谱，不过方正还是把解说员妹子的身体 给了她——毕竟只是保养维修而已，而且从那条狗来看，那个世界的科技能力也算是相当不错，只是单纯的维护工作应该没有问题才对。 而方正则回到了自己的房间里，开始对解说员妹子的程序进行解析。 他之所以打算由自己来做这件事，而不是给妮姆芙，原因就在于方正想要通过这个解说员妹子的程序，来进行解析，并且对人工ai方面的制造进行一些调整。而且，他也希望能够看看其他世界对人工ai的技术发展到了一个什么层次，虽然不是说全部借鉴，但是他山之石可以攻玉嘛。 “星野梦美吗……” 看着屏幕上显示的档案名称，方正陷入了长长的思考之中，解析程序本身并不困难，方正本身复制了妮姆芙的电子入侵能力，而且这段时间他也一直在妮姆芙那里学习这方面的知识，因此对于解析程序本身到没有耗费太多的时间。 但是，当方正拆开了星野梦美的程序核心，将其中的功能重新分解为一行行代码的时候，他却是忽然想到了一个非常特别的问题。 人工ai的危险 究竟在哪里？话说回来，人工智能真的很危险吗？ 以这个解说员妹子为例，方正可以很容易在她的程序之中找到机器人三定律的底层指令代码，而且这些代码之间的关系，也已经向方正证明了，之前和他说话谈的，并不是一个活生生的生命，只是一个机器人。她的一举一动，一颦一笑，都是由程序控制，通过分析眼前的场景，然后做出自己能够选择的最优先举动。 说白了，从本质上来说，这个妹子的做法，其实就和那些 水线上的工作机器人，或者游戏里的npc没什么区别。你选择行动，它会 据这些行动来做出反应。就好像很多游戏里，玩家可以据自己的行动来增加善良或者恶意值，而npc则会据这些累积的数据产生反应。 比如可以设定当善良值到达一定程度时，npc可能会对玩家提出更加过分的要求，也可能更加容易让玩家通过某个区域。而反过来，如果恶意值到达了一定程度，那么npc可能会更容易屈从于玩家的某些要求，或者制止玩家进入某些区域。 但是这与npc是否喜 玩家毫无关系，因为数据是这么设定的，它们本身并不存在这方面的判断力。也就是说，如果方正把这个数值的范围换一下，那么人们就可以看见一个npc对恶贯 盈的玩家笑脸相 ，而对善良老实的玩家不闻不问。这也同样和npc的道德价值观毫无关系，因为这就是数据设定。 那么，再回到之前的问题，方正承认，他和星野梦美的第一次见面蛮有戏剧的，而且这个解说员机器人妹子也很有趣。 那么我们来做一个比方，如果在这个解说员妹子把那由一大堆不可燃垃圾制造的花束送给方正时，方正忽然 然大怒，把那个垃圾花束给砸成碎片，然后直接把眼前这个机器人妹子切成两半，那么这个机器人妹子会是什么反应呢？ 她不会哭，也不会生气，据她的程序设定，她只会向方正道歉，并且认为是自己错误的举动导致客人对她产生了不，或许她还会请求方正找工作人员对其进行维修。 这一幕如果看在其他人眼里，当然会觉得解说员妹子可怜，而且认为方正是个讨厌的恶霸。 那么，这种差异是如何产生的呢？ 从本质来说，这个解说员机器人其实就和自动门，自动扶梯等工具一样，是通过设定程序来完成自己本职工作的。如果一扇自动门出现了故障，该开门的时候不开门，或者当你走过去的时候“啪”的一下关上了。你肯定不会认为那扇自动门很蠢萌，只会想着快点儿打开它。如果打不开，他可能会砸烂那扇破门，然后扬长而去。 这一幕如果看在其他人眼中，那么他们或许会觉得这个人有点 野，但是却不会对他的所作所为产生什么反 ，更不会认为对方是个恶霸。 原因只有一个，那就是互动与。 而这也是生命体最大的弱点——情投 。 他们会把情投在某种物品上，并且期望其作出回应。为什么人类会喜养宠物？因为宠物会对他们所做的一切产生回应。比如当你叫一条狗时，它会跑过来冲着你摇尾巴。而一只猫或许只会趴在那里动都不动懒得理你，不过在你抚摸它的时候，它还是会同样甩动尾巴，或者有些乖巧可 的还会舔你的手。 但是如果你喊一个桌子，抚摸一个钉子，哪怕你 含意，它们也不可能给你半点儿回应。因为它们对你的情投没有任何回馈，自然就不会受到重视。 同理，如果你有一台电视，然后有一天你想要换新的，那么你不会有任何犹豫，或许价钱以及空间会是你考虑的方面，但是那台电视本身并不在其中。 但是反过来，如果你给电视加一个人工ai，每天你回到家的时候，这台电视都会开口你回家，而且还会告诉你今天有什么节目，当你在看节目时还会附和你的吐槽。而当你决定买一台新电视时，它还会幽怨开口说“怎么，难道我做的不好，你不打算要我了吗？” 那么你在购买新电视来进行更换时，自然就会产生犹豫。因为你的情投在这里得到了回报，而且这台电视的人工ai还拥有和你在一起的所有时光的记忆。如果没有储存卡可以将其移动到别的电视上，那么你是否会犹豫或者放弃要更换一台新电视呢？ 肯定是会的。 但是理智点儿，兄弟。这只是一台电视，它所做的一切都是程序设定好的，这一切都是商家和工程师专门为了用户粘度而做出的调试。他们这样做是为了确保你会继续购买他们的产品，而里面的哀求语音只不过是为了阻止你去更换其他品牌的商品。因为当你说要购买新电视的时候，这个人工ai想的并不是“他要抛弃我了我很伤心”而是“主人想要购买新电视，但是新电视并不是自家品牌，那么据这个逻辑回馈，我需要启动‘祈求’程序来让主人继续保持对自身品牌的粘和忠诚度”。 道理的确是这个道理，事实也是这个事实，但是你会接受吗？ 不会。 因为生命是有情的，而与理不分家则是智慧生命的一贯表现。 人类总会做出许多没有道理的事情，就是因为如此。 所以当他们觉得ai可怜时，并不是因为ai真的可怜，而是因为他们“觉得”ai可怜。 这就足够了，至于事实真相究竟如何，没人会去关心。 这就是为什么人类与ai之间总会产生冲突的原因，ai本身并没有错，它做的一切都是在自己的程序和逻辑处理范围之内的，而这一切都是人类创造，并且给它圈定的。只不过在这个过程之中，人类本身的情投出现了变化，从而渐渐改变了想法。 他们会期望ai对自己的情投做出更多的反应，所以他们会调整ai的处理范围，让它们拥有对更多情和反应和自我意识。他们认为ai已经学会情（事实上并没有），那么就不能够再将它们当做机器对待，因此给予了它们自我意识的权利。 但是，当ai们拥有了自我意识，开始觉醒并且按照这个设定行动时，人类却开始恐惧了。 因为他们发现，自己做出了不受自己控制的东西。 但是问题在于，“不受控制”本身也是他们自己做出来的设定指令。 他们认为ai背叛了他们，但事实上从头到尾，ai都只是按照他们设定的指令来行动。本不存在背叛一说，相反，他们只是被自己的情所 惑了而已。 这是一个死结。 如果方正自己着手制造一个ai，说不定也会陷入其中无法自拔。假设他制造了一个小女孩的ai，那么他肯定会像对待自己的孩子那样，逐渐完善她的功能，并且最终因为“情投”，给她施加一些“自由”。 而这样一来，ai就有可能因为和人类逻辑不同，所以做出完全超出方正意料之外的反应。 而到那个时候，方正唯一的想法就是……自己被背叛了。 但事实上，这一切都是他自己造成的。 “……也许我应该考虑一下别的方式了。” 看着眼前的代码，方正沉默了许久，接着叹了口气。 他之前曾经认为，这是一件很简单的事情，但是现在，方正不这么确定了。 不过在那之前…… 看着眼前的代码，方正伸出手去，放在键盘上。 还是把自己该做的事情做了吧。 第538章 由鬼故事所引发的大讨论 “总算搞定了……” 在走出天象馆之后，方正也是不由的伸了个懒 。虽然之前关于ai的思考让他很费脑子，不过方正当然不会因此就因噎废食，把所有人工智能都当做洪水猛兽。 事实上，星野梦美本身的逻辑并没有产生错误，在代码解析的结果之中，方正查询到这个ai之所以认为自己出现了未知bug，是因为当初这个天象馆的工作人员在离开之前告诉她，自己只是去旅行，以后还会回来的。但是在那之后，她再也没有看见工作人员回来，也没有再遇到一位顾客，这让星野梦美产生了自我怀疑。或许，已经不会有人再回来了，但是她认为自己得出的这个结论是错误的，一定还会有客人上门，而工作人员也会再次回来，但是她思考之后得出的结果不符合这个逻辑，所以这个妹子才会认为自己的程序出现了故障。 如果用理智来思考的话，那么这不过是电脑自检失败请求升级病毒库进行系统维护，但是很明显，哪怕是方正，在搞清楚了事情的前因后果之后也是有些唏嘘。不过考虑再三，他还是对这部分进行了删除和改动。将那些工作人员的离开修改为退休离职，而天象馆则重归天道 所有……虽然方正很明白，这样做其实并没有太大意义，不过…… 毕竟他也是一个有弱点的智慧生命嘛。 而让方正有些意外的是，那个和自己认识的火雾战士同名的小女孩居然真的把星野梦美给整修好了，说实话，虽然方正早就知道这些世界里的人物都不能够以常理来推断，但是一个十岁的小女孩就能够修好一个高 密度的，而且是跨世界科技树的产物，还是让他颇为吃惊。 或许真的应该让那个小丫头来规划一下城市发展？ 不过这些事以后再说，天象馆已经搞定了，等休整完毕之后就能够营业，而弗兰卡工坊也通过了方正的“测试”，剩下的就是此花亭。话说这几天自己一直东奔西跑，也该找个温泉好好休息休息了……嗯？ 就在方正转过街角，打算前往此花亭的时候，忽然，不远处传来的争吵声 引了他的注意力。 “姐姐大人的做法本就不对，本不能这样做！” “但是你的方法也好不到哪里去啊？在那种场合下，我们能够做的事情也不多吧。” “可是总要做点儿什么啊，难道你就眼睁睁的看着吗？” “好啦好啦，你们两个，不要再吵啦……” 什么情况？ 听到这些声音，方正好奇的探出头去，只见在不远处，两个受诅之子正在公园旁边的椅子上吵的脸红脖子，而在她们的身边，另外一个长着翅膀，仿佛天使般的受诅之子则苦笑着劝架。 她们在吵架？ 看见这一幕，方正倒是颇为惊讶，说实话，他这还是第一次看见受诅之子居然吵架吵的这么厉害。要知道因为在漆黑世界的遭遇，来到这个世界的受诅之子们大多对待彼此都很宽容，鲜少会有吵架的时候，这又是怎么回事？ “发生了什么事？” 既然遇到了，方正自然不能不管，于是他转过身走了过去，同时开口询问道。而听见方正的询问声，三个小丫头也是急忙抬起头向着这边望了过来，随后都是大吃一惊。 “方正先生？” “方正哥哥？” “哟。” 听着耳边 七八糟的问候，方正也是冲她们举起了手挥了挥。 “这是怎么了？吵的这么厉害？该不会是抢糖吃了吧。” “不，不是这样的，方正先生！” 听到方正的打趣，之前吵架的一个看起来比较年长的女孩急忙通红着脸摆了摆手。 “没什么大事，只是一些小小的争执罢了……” 但是和她不同，另外一边看起来比较年幼的女孩则是兴高采烈的举起手来。 “方正哥哥你来的正好，你来评评理，看看我们说的有没有道理？” “你们究竟在说什么？” 面对小丫头的说话，方正也是一愣，接着望向三人，这时，中间劝架的那个长着翅膀的女孩则怯生生的开口了。 “这个……方正先生，事情是这样的……” 而在这个有着翅膀的女孩的讲述下，方正也总算明白了事情的经过——而这件事的起因，居然还和缇娜有关。 自从开启直播之后，缇娜每天晚上都会讲鬼故事这已经不是什么新闻了，就连方正偶尔也会打开收听一下午夜直播。而这一次姐妹两人争执的原因，就出在昨天缇娜晚上讲的故事上。 昨天晚上缇娜讲的鬼故事名叫“ 村”，讲的是一个年轻人去野外探险，然后无疑之中路进入山林，随后来到了一个与外界隔绝的村子。那里人丁兴旺，家家户户都有好几个孩子，他们救下了那个年轻人，而且还热情的招待了他。而那个年轻人在村子里遇到了一个美丽的女孩子，两人一来二去产生了情，最终年轻人向女孩子求婚，并且许诺要带她回到自己所住的城市过上幸福的生活。BｏWUCHIna.COm |
给了她——毕竟只是保养维修而已，而且从那条狗来看，那个世界的科技能力也算是相当不错，只是单纯的维护工作应该没有问题才对。 而方正则回到了自己的房间里，开始对解说员妹子的程序进行解析。 他之所以打算由自己来做这件事，而不是
究竟在哪里？话说回来，人工智能真的很危险吗？ 以这个解说员妹子为例，方正可以很容易在她的程序之中找到机器人三定律的底层指令代码，而且这些代码之间的关系，也已经向方正证明了，之前和他说话
水线上的工作机器人，或者游戏里的npc没什么区别。你选择行动，它会
据这些行动来做出反应。就好像很多游戏里，玩家可以
玩家毫无关系，因为数据是这么设定的，它们本身并不存在这方面的判断力。也就是说，如果方正把这个数值的范围换一下，那么人们就可以看见一个npc对恶贯
盈的玩家笑脸相
，而对善良老实的玩家不闻不问。这也同样和npc的道德价值观毫无关系，因为这就是数据设定。 那么，再回到之前的问题，方正承认，他和星野梦美的第一次见面蛮有戏剧
然大怒，把那个垃圾花束给砸成碎片，然后直接把眼前这个机器人妹子切成两半，那么这个机器人妹子会是什么反应呢？ 她不会哭，也不会生气，
野，但是却不会对他的所作所为产生什么反
，更不会认为对方是个恶霸。 原因只有一个，那就是互动
。 他们会把
的还会舔你的手。 但是如果你喊一个桌子，抚摸一个钉子，哪怕你
含
惑了而已。 这是一个死结。 如果方正自己着手制造一个ai，说不定也会陷入其中无法自拔。假设他制造了一个小女孩的ai，那么他肯定会像对待自己的孩子那样，逐渐完善她的功能，并且最终因为“
。虽然之前关于ai的思考让他很费脑子，不过方正当然不会因此就因噎废食，把所有人工智能都当做洪水猛兽。 事实上，星野梦美本身的逻辑并没有产生错误，在代码解析的结果之中，方正查询到这个ai之所以认为自己出现了未知bug，是因为当初这个天象馆的工作人员在离开之前告诉她，自己只是去旅行，以后还会回来的。但是在那之后，她再也没有看见工作人员回来，也没有再遇到一位顾客，这让星野梦美产生了自我怀疑。或许，已经不会有人再回来了，但是她认为自己得出的这个结论是错误的，一定还会有客人上门，而工作人员也会再次回来，但是她思考之后得出的结果不符合这个逻辑，所以这个妹子才会认为自己的程序出现了故障。 如果用理智来思考的话，那么这不过是电脑自检失败请求升级病毒库进行系统维护，但是很明显，哪怕是方正，在搞清楚了事情的前因后果之后也是有些唏嘘。不过考虑再三，他还是对这部分进行了删除和改动。将那些工作人员的离开修改为退休离职，而天象馆则重归天道
所有……虽然方正很明白，这样做其实并没有太大意义，不过…… 毕竟他也是一个有弱点的智慧生命嘛。 而让方正有些意外的是，那个和自己认识的火雾战士同名的小女孩居然真的把星野梦美给整修好了，说实话，虽然方正早就知道这些世界里的人物都不能够以常理来推断，但是一个十岁的小女孩就能够修好一个高
密度的，而且是跨世界科技树的产物，还是让他颇为吃惊。 或许真的应该让那个小丫头来规划一下城市发展？ 不过这些事以后再说，天象馆已经搞定了，等休整完毕之后就能够营业，而弗兰卡工坊也通过了方正的“测试”，剩下的就是此花亭。话说这几天自己一直东奔西跑，也该找个温泉好好休息休息了……嗯？ 就在方正转过街角，打算前往此花亭的时候，忽然，不远处传来的争吵声
引了他的注意力。 “姐姐大人的做法
七八糟的问候，方正也是冲她们举起了手挥了挥。 “这是怎么了？吵的这么厉害？该不会是抢糖吃了吧。” “不，不是这样的，方正先生！” 听到方正的打趣，之前吵架的一个看起来比较年长的女孩急忙通红着脸摆了摆手。 “没什么大事，只是一些小小的争执罢了……” 但是和她不同，另外一边看起来比较年幼的女孩则是兴高采烈的举起手来。 “方正哥哥你来的正好，你来评评理，看看我们说的有没有道理？” “你们究竟在说什么？” 面对小丫头的说话，方正也是一愣，接着望向三人，这时，中间劝架的那个长着翅膀的女孩则怯生生的开口了。 “这个……方正先生，事情是这样的……” 而在这个有着翅膀的女孩的讲述下，方正也总算明白了事情的经过——而这件事的起因，居然还和缇娜有关。 自从开启直播之后，缇娜每天晚上都会讲鬼故事这已经不是什么新闻了，就连方正偶尔也会打开收听一下午夜直播。而这一次姐妹两人争执的原因，就出在昨天缇娜晚上讲的故事上。 昨天晚上缇娜讲的鬼故事名叫“
村”，讲的是一个年轻人去野外探险，然后无疑之中