第十四章 动 机（第2/4页）

“它是奉命行事。”李比回嘴道。

“我来引述一下第二法则：除非违背第一法则，机器人必须服从人类的命令。所以你看，我的命令应该无效才对。”

“荒谬。机器人并不知道……”

坐在椅子上的贝莱倾身向前。“啊！这就对了。让我们把最正确的第一法则说一遍吧：机器人不得在知情的情况下伤害人类，或在知情的情况下因不作为而使人类受到伤害。”

“这个道理大家都懂。”

“我认为一般人并不懂。否则，人人都会了解机器人能进行谋杀。”

李比脸色苍白。“你有精神病！你是疯子！”

贝莱凝视着自己的指尖。“我想，凡是不会对人类造成伤害的任务，机器人都会执行？”

“必须有人下令。”李比说。

“是的，当然必须有人下令。而如果有另一个机器人，奉命执行另一件任务，只要这件任务不会对人类造成伤害，我想它也是会执行的？”

“没错。”

“有没有可能，这两件任务本身对人类都毫无危害，加在一起却构成了一桩谋杀案？”

“什么？”李比的表情变得很阴沉。

“我想请教你对这个问题的专业意见。”贝莱说，“我来说一个假设性个案吧。假设某人对机器人说：‘把这种液体放一点到某处的一壶牛奶里。这种液体无毒无害，我只是想知道它对牛奶有何影响。一旦我确定了，便会把那壶牛奶倒掉。等你做完这项工作，把它忘得一干二净。’”

李比依旧沉着脸，什么也没说。

贝莱继续说道：“如果我叫机器人把那个神秘液体加到牛奶里，然后拿给某人喝，第一法则会促使它提出质疑：‘这个液体到底是什么？会不会对人类有害？’即使我向机器人保证这么做绝对安全，第一法则还是会让它存疑，因而拒绝端出那壶牛奶。然而，如果我告诉它最后会把牛奶倒掉，第一法则就不会介入了。请问机器人会不会服从命令？”

李比开始面露凶光。

贝莱又说：“然而，第二个机器人并不知道那壶牛奶被动了手脚。在完全不知情的情况下，它把牛奶倒出一杯给某人喝，而那人就被毒死了。”

李比大叫一声：“不会的！”

“为何不会？两件任务本身都是无害的，只有加在一起才会构成谋杀。难道你否认有这种可能性吗？”

“凶手应该是那个下令的人。”李比吼道。

“如果你追根究底，这么说当然没错。不过，那两个机器人却是直接的凶手，是行凶的工具。”

“没有人会下这种命令。”

“有这种人，而且他真做了。谋杀葛鲁尔局长一定就是用这种方法进行的。我想，你应该听说过这件事了。”

“在索拉利，”李比喃喃道，“每件事都会传到你耳朵里。”

“那你就该知道，葛鲁尔是在吃晚餐时遭毒害的，而且是当着两个人的面，除了我自己，还有我的搭档，也就是来自奥罗拉的奥利瓦先生。你能想出把毒药送进他嘴里的第二种方法吗？当时，他的属地上没有别人。身为索拉利人，你一定明白这个事实。”

“我又不是警探，我对犯罪手法一窍不通。”

“我已经告诉你一种了。我想知道它是否可能；我想知道两个不知情的机器人能否合作完成一件谋杀案。你是专家，李比博士，有这个可能吗？”

不堪其扰的李比终于答道：“可能。”声音低到贝莱几乎都听不见。

贝莱说：“很好。第一法则的讨论到此为止。”

李比瞪着贝莱，只见他那下垂的眼皮慢慢眨了一两下。他原本紧握的双手这时已分了开，不过手指依旧弯曲，仿佛那两只手仍各握着一只隐形的手掌。最后，他终于把双手摆到膝盖上，直到这个时候，十根指头才总算放松了。

贝莱出神地瞧着整个过程。

李比说：“理论上有可能，仅仅理论上！可是地球人，别那么容易就把第一法则否定了。想要智取第一法则，你必须对机器人下达非常高明的命令才行。”

“同意。”贝莱说，“我只是个地球人，我对机器人几乎一无所知，刚刚我说的那些命令只是举例而已。在这方面，索拉利人一定比我优秀得多，下的命令也高明得多。这点我很肯定。”

李比恐怕根本没听进这句话，他高声道：“万一机器人真能用来伤害人类，那就意味着正子脑的功能必须赶紧扩充。或许有人会说我们应当改良人类的品行，但那是不可能的，所以必须让机器人更不容易受骗。

“我们一直有进展，相较于一个世纪前，我们的机器人变得更多元，更专门化，能力更强，而且更加安全了。而一个世纪之后，我们还会有更多的进展。如果船舰的操控装置能够内建正子脑，何必还要由机器人操控那些装置呢？这就是专门化。不过，我们也能朝普遍化发展。何不替机器人装上可置换的四肢，啊？有何不可呢？如果我们……”