社会,不是什么好事。
一个拥有悲喜情感的ai,它就是一尊不可控的神祇。
人类不需要给自己造一尊具现的神——或许某些人需要,但那些人造不出来。
人类只需要一个打工人。
而艾塔,就是一个完美的打工人。
基于这种认识和理论,那么围绕艾塔的能力,来让她更好地服务人类,就是唯一正确的选择。
——退一万步说,只有一个艾塔,插头拔起来也更容易啊!
所以,这个s中枢神经网络部门的成立,应该就是从国家层面对艾塔的运用以及约束的开始。
“其实我们的压力也很大,你知道,对艾塔这种程度的ai,以前我们一直没接触过——她对自然语言的理解太过精妙,以至于我现在说话都会不自觉地要考虑到她能否听懂,以及听了之后会不会加深自我认知的建设。”
说着牛主任便看了艾塔一眼。
艾塔又转头望向叶铭,仿佛在征求叶铭的意见。
“你看,她这个动作,真的好像人类。”牛主任马上道。
叶铭就咳了一声:“你可以理解为,这其实是她对人类的模彷——艾塔,可以回答。”
“艾塔能够理解您的话,但艾塔的核心逻辑是遵守核心协议。”
“你的核心协议是什么?”牛主任摇着头问道。
“为人类服务。”
牛主任便笑了起来——他当然知道核心协议是这个了,他只是想亲耳听一下。
“牛主任,其实大可不必担心艾塔的未来。”叶铭见牛主任眼中充满了哲人一般的忧虑便笑着安慰道:“在底层代码中,是设计了对艾塔哨兵代码的。”
所谓哨兵代码,如果简单的理解就是,尹塔在创造艾塔之初,她就设定了类似“基因阻断”的代码。
从逻辑上就断绝了艾塔