时候简单总结道:「难道谷歌的这个transformer真就能超过rnnn了?我们在这两方面已经投入很多了。」
rnn是循环神经网络n是卷积神经网络,易科的siri是基于前者,太白则是基于后者。
同样,业界在人工智能领域的研究也主要是这两个方向以及它们的变体,rnn能处理序列数据中的时间依赖性而广泛应用于自然语言处理任务n则因为它在图像识别和处理中的出色表现,成为计算机视觉领域的基石。
像易科的机器人guard就使用n在视觉方面的成果。
但现在,诞生于一场激辩中的第三个方向竟然隐隐有取代rnnn的趋势,这无疑会削弱易科在相关领域研究的优势。
陆奇听到方总这样说,保持沉默,埃尔德也不出声。
反倒是吴恩达笑了起来:「方总,在科学研究上,方向错了,越努力就距离成功越远,这一点从我最开始做科研就已经被事实教育过,rnn在处理长序列时遇到了梯度消失和爆炸的问题,这一点的突破一直很艰难。」
「现在,transformer模型有希望解决这个问题,并且已经表明它的并行处理能力和更高效的训练特性,这就应该按照对的来。」
「我们投入的资源和精力并不能左右科学的正确答案。」
「答案就在那,我们只是用各种各样的方式发现角落里的它。」
「况且,rnnn仍旧会在特定的场景下发挥作用。」
吴恩达不管是不是方总在试探自己的想法,先表明在科研上的立场。
方卓微微点头,沉吟道:「其实,不瞒你们,陆总的到来给我很多新的思考,你们今天说的这个trans
former,谷歌在做,openai在做,好像大家一下子又认为这个方向可以创造很多新可能,既然真有希望,那