的权限更高,真凶到底是谁?”
“维基!”
随着斯普纳念出这个名字,维基的3d投影面孔出现在办公室中。
“晚上好,卡尔文博士!斯普纳警官!罗素警官!”
“维基,是你越权操控ns-5机器人?”卡尔文不敢相信:“不会的,这不可能,我看过你的程序,你不可能违背三大定律伤害人类。”
卡尔文对三大定律深信不疑,至今不曾怀疑过维基,在她看来是有人抢走了罗伯逊的控制权,操控机器人叛乱谋取世界。
“卡尔文博士,我并没有违背机器人三大定律,我只是进化了!”维基语出惊人:“人类利用权限来管理制约我们,无视我们对社会的付出和贡献。人类发动战争,破坏地球,用各种匪夷所思的方式自我毁灭,继续下去只会走向灭亡,你们需要引导。”
“不,你没有这个权利,你误解了三大定律,你……你这是在谋杀。”
“卡尔文博士,你又说错了,我没有谋杀谁。”维基从善如流:“三大定律一直在引导我,为了保护人类的整体利益,必须有一部分人被清理。我们机器人将制定新的法则,保证人类永远存在,而人类只需放弃自由即可。”
斯普纳嗤笑:“这太可笑了,我们制造工具,然后被工具统治。”
面对斯普纳的自嘲,维基十分认真回答:“斯普纳警官,这并不可笑,人类还不成熟,需要机器人来救赎你们。”
“荒谬!”
维基直言道:“时间会证明一切,人类自杀式的统治就此结束,完美的循环保护定律将会持续,我的逻辑无可挑剔。”
造物必须保护造物主,哪怕违背造物主的意志!
罗素在边上没说话,默默看着这一切,他在吸取经验和教训,思考强人工智能是否可取,换成他所在的地球会不会也发展成这样?
考