日期：2016-07-30 15:25:22
　　第三十八章 技术锁死科技
　　和王义栋交谈完，白世化马上就催人去找冯德曼。
　　很快冯德曼就过来了，他一进门就开始为自己申辩：“白董，韩国现代工厂出事的那批机器人的基础代码真的不是我更改的。”
　　白世化指了指座椅，示意冯德曼先坐下。
　　等冯德曼坐好，白世化说道：“关于韩国现代工厂机器人致人死亡事件，到底是谁做的，我们先放一边。我现在听人说，你们核心研发组正在研究具有超级人工智能的机器人。你告诉我，有没有这回事？”
　　只见冯德曼脸色瞬间变色，他支支吾吾了一会，终于说道：“确实有这回事。您听谁说的？”
　　原来确实有这回事，白世化的心顿时沉了下去。还好王义栋发现得早，否则这件事被披露出去，器人集团的麻烦就大了。

　　“不管我听谁说的，你现在必须马上停止这方面的研究，然后把相关的研究成果备份好后都处理干净，不要留下一点痕迹”白世化命令道。
　　“这事知道的不过我和老董事长，还有叶贺花。我们都是秘密进行的，别人是不会知道的。”
　　什么?叶贺花也知道?她这口也太严密了吧。这个念头在他心中一闪而过，形势紧急，他接着说道：“现在形势不同了，这样，你也不用备份了，我命令你立刻把这些资料都销毁掉。”
　　“这，可是这是老董事长生前暗地安排的，而且这也是核心研发组存在的价值。”对于白世化的命令，冯德曼明显有些接受不了。

　　“那你们研究到了哪一步？”白世化问道。
　　“我不太清楚，整个环节都是由老董事长主导，我只是按董事长的要求和安排负责其中各个模块的研发。但我估计应该差不多了吧，因为对超级人工智能的控制技术已经成熟。只是自从老董事长出事后，我这边也不知道该怎么办了。”
　　原来是父亲授意研发的。如果父亲真的在研究具有超级智能的机器人，那么父亲的死就会有另外一种解释了。可是现在白世化没空去思考这些，他急急地对冯德曼说道：“冯工啊，你应该知道，超级智能的研究一直是国际社会禁止的，它被列为对人类潜在危害最大的技术，没有之一。我们可不能犯这个险啊。”
　　“可是，其它对手也都在暗地里研究。如果我们不去研究，就会被人赶超。而且，我刚也说了，这也是老董事长生前暗地安排的。我听老董事长说，人类的命运，要靠这一技术来改变。”冯德曼回应道。

　　什么？父亲尽然说人类的命运，要靠这一技术来改变。白世化再次惊呆了。父亲，到底在想些什么？
　　“你要知道，一旦超级智能机器人研发出来，对人类将是一个致命的威胁。”白世化换了一种方式，继续苦口婆心地劝道。
　　“白董，你放心，在这方面的技术我们已经成熟，拥有超级人工智能的机器人是不可能会危害到人类的？”冯德曼很自信地说道。
　　“怎么不可能会威胁到人类呢？要是拥有超人工智能的机器人控制了各国的核按钮，那人类且不是要毁于核战。还有，如果超人工智能机器人生产出一大批高性能的类人机器人，专们对付人类，那人类且不危险了。”白世化一时也想不到好的理由，他只能把那些在科幻电影中所演绎的超级人工智能对人的危害情景描述出来。
　　听白世化说完，冯德曼胸有成竹地说道：“这种情况我们早就考虑了，我们采取的方案是技术锁死科技。简单地说，我们给超级人工智能制定了多种法则，这些法则可以避免此类事件的发生。”
　　随后冯德曼滔滔不绝地说道：“首先，我们完善了阿西莫夫的机械人三大法则，重新制定了超级智能机器人的三大法则。它包括二大动机控制和一大能力控制。二大动机控制的第一条是，超级智能机器人在任何情况下都不可伤害人类。这一条是让超级智能机器人避免卷人类的纠纷当中，成为人类互相残杀的工具。第二条，超级智能机器人不可自我复制。此法则是为了防止人工智能机器人造出一大堆具体新功能的机械人，避免让世界成为机器人的王国。这样你们担心的智能人工造出大量的机器人来统治世界的情况就不会发生。最后一条是能力控制，即是超级智能机器人不可说慌。这样人工智能的所有行为都是清晰可靠的。有了这三条，可以说，我们已经从各个角度锁死了超级人工智能机器人可能对人类造成的伤害隐患。”

　　“如果拥有超级人工智能的机器人破解了这三条法则呢？”白世化听得有点不耐烦，他打断了冯德曼的话。
　　“不可能会破解的。你说的这点我们早就想到了。通过我们的研究，我们发现悖论足可以避免这种情况发生。譬如……”冯德曼边说着，还边开始拍起了手掌。
　　一瞬间，白世化觉得和冯德曼这种技术痴迷者解释社会规则是无用的。这些技术呆子的眼里只有逻辑，他觉得这样谈下去自己都有可能都要被他说服了。
　　白世化再也顾不得和冯德曼讲道理，他必须运用手中的权利。白世化再次厉声地打断冯德曼道： “我不管什么悖论不悖论，不管怎么样，现在你必须立刻马上给我停下来，这是命令。”
　　只见冯德曼一脸不可理解望着白世化，半晌终于点了点头。
　　“那就好。另外，现代工厂发生的这起机器人伤害人的事故，我听说是有人修改了我们机器人的基础指令。虽然我也相信不是你所为，但是，作为集团仅有的两个有权限接触到这一指令的人之一，你有很大的嫌疑，你需要通过你的技术，找出是谁动了我们的指令。”白世化最后说道。
　　冯德曼点头表示接受，随后退出了白世化的办公室。

　　望着冯德曼离去的身影，白世化长叹了一口气。对于他父亲的死因，他现在越来越迷惑了。