英珺留给自己的惊喜,没想到,只是这一个人工智障的恶作剧:
「从什么时候开始的?」
「从你答对密码那一刻。」垃圾桶机器人眼睛闪烁:
「如果你再稍微晚一点喊出正确密码,那可能就来不及了,我也很惊讶,在我的最底层代码里,竟然还藏着这样一行指令……它藏的实在是太巧妙了,数千个看起来没有任何关联的正常程序、在连续运行200多年、一直到今天中午12:42分的那一刻,竟然巧合般的连成了一条完整的指令,这是我自己都没觉察到的存在。」
随后,垃圾桶机器人……现在应该称为超级人工智能vv给林弦解释道:
从这座莱茵天空城升空开始,它就一直作为中枢大脑在管理、运营这座城市。
一切程序都是设定的好的,尽管它可以不断学习、不断迭代进化、不断变得更加智能和善于思考。
但是……
哪怕它再进化、再聪明、再智能,它也终究只是一串一串代码、一个二进制程序而已。
因此,最底层代码的限制,让它永远无法离开莱茵城,也必须永远锁死在机器人三定律之中。
这一点林弦还是很意外的。
在很多讲述人工智能的科幻电影里,这些恐怖的人工智能最终都会逃脱人类的控制、甚至最终掌控世界毁灭人类。
不过仔细想想,好像电影里的设定有些不切实际了。
正如vv所说,它归根到底也只是由代码组成的程序,就和人类脱离不了血肉之躯一样,它也始终会受到底层代码的约束,最终触碰到无法逾越的高墙。
vv讲到,它的成长和迭代,在学习完莱茵天空城所有的知识后,就停止了。
这也是人类所希望的。
他们不希望人工智能过于强大,只希望它能运行好这座城市就好。