思维向量、深度学习与人工智能的未来

“思维向量”是一个由现在谷歌任职的著名深度学习研究者Geoffrey Hinton发扬光大的术语,目前谷歌正在使用基于自然语言的向量来改善其搜索结果。

思维向量与词向量相类似。词向量通常是一个包含300-500个数字的向量,用于表示一个词。词向量用一个单列的数值矩阵来表示一个词的含义,亦即该词与其他词(其上下文)之间的关联。

Word2Vec等浅层神经网络可以将词嵌入至一个向量空间中,然后通过反复预测来学习生成词的上下文。

因此,一个思维向量就是一个想法的向量化形式,用以表示该想法与其他想法之间的关联。思维向量网络的训练目标是生成一个想法的上下文。就像词汇由语法相连接一样(一个句子其实就是一条经过多个词的路径),不同想法之间是由思维链条,亦即某种逻辑路径连接起来的。

因此,让一种算法学习如何表示任意想法与其他想法之间关联的训练过程可以称为人工常识构建。神经网络可以依据一个给定的想法预测紧接着有可能会出现的想法,就像循环神经网络预测字符和词语一样。会话即搜索。

Hinton在2015年在伦敦皇家学会的演讲中如是说:

	“这对于文档处理具有非常重要的意义。如果我们将一个句子转换为一个能够捕捉句子含义的向量,那么谷歌的搜索就可以大大改善;他们就可以依据文档中所说的内容来进行搜索。
	
	同时,如果你能把每份文档中的每个句子都转换为向量,那么就可以按照这些向量的顺序来[尝试]实现自然思维[建模]。而这是旧式人工智能永远无法做到的一件事。
	
	如果我们能读取网页上的每一份英语文档,将每句话都转换为一个思维向量,那就可以获得足够多的数据,能够训练出一个可以像人一样思考的系统。 
	
	当然,我们可能未必真的要让系统采用人们在网上的思维方式,但这样我们至少可以预见到人们的想法。
	
	我觉得未来几年的发展趋势是,这种把句子转换为向量的能力会快速改变我们理解文档的水平。 
	
	要达到人类的理解水平,我们可能需要人类级别的资源——我们[大脑中]有数万亿个神经连接,而目前我们构建的最大的网络也只有数十亿个连接。所以目前我们还差了几个数量级,但我相信硬件专家们会解决这个问题。” 

且让我们玩味一下Hinton的话。

传统的基于规则的人工智能无非是一堆if-then语句,用硬编码在僵硬的符号之间建立锁定的关系,因此它们的灵活度很低,没有人类的大规模干预就无法表示现实世界中的各类现象。符号逻辑和知识图或许可以在实体间建立严格的关联,但这种关联不可能快速适应新的情况。

Hinton的意思是说,我们不应该用硬编码来指定人工智能要沿着何种逻辑从一个想法跳至另一个想法,其实只需要对神经网络输入足够多的文本(足够多的思维路径),网络最终就能模仿这些文本中表达的想法,并且生成自己的思维路径,即输入网络的想法的上下文。

对于谷歌等搜索引擎而言,这将会改变其算法理解自然语言查询的能力,使之超越纯粹的搜索。

思维关联能力带来的是会话能力。以增强人类能力和娱乐人类为目的的聊天机器人、个人助理等智能体可以建立在思维向量的基础之上——这是好的一面。而坏的一面则是,在网上,你根本不知道谁是条狗,或者说,谁是个机器人。

如果采用不太严格的定义,我们可以说思维向量已在被用于表示不同语言中的相似语句了,这在机器翻译领域具有实践意义。(事实上,发明思维向量的目的之一就是改进谷歌翻译。)因此,思维向量是独立于任何特定语言之外的。

思维向量还可以表示图像,这不仅说明思维向量的范围广于语言本身,也进一步证明思维向量并不依赖于语言。所以我们使用的术语是想法(thought),这一概念本身的范围比用于表达想法的文字或视觉媒体更加广泛。 思维向量的问题是,即便我们只停留在词语层面,向量的数量也会随着表达想法所用的词数增加而呈现指数式增长。想法是组合性的。此外,一个句子可能包含许多种状态,亦即想法的元素;比如x是一个y,或者b有一个c。因此每句话中都可能包含、混杂了多个想法。

这一点很重要,因为我们在将词向量化的时候,会在一个查找表中生成这些词的索引。在包含所有词的大规模矩阵中,每个词都是一个向量,而该向量是矩阵的一行。(每一列表示词的一个特征,而在低维空间中的词可能有300~500个列。)

操纵包含所有思维向量的致密矩阵会令资源开销指数式增长,鉴于当下的神经网络已经在考验现有硬件的极限,这种模式似乎并不可行。至少目前还是这样。

新闻中频频出现的自主会话智能体(聊天机器人)多半需要依赖可靠的思维向量才能决定某次具体会话中最恰当的回答。就目前而言,这些聊天机器人还无法在任意长度的复杂会话中给出有用、有趣且合理的回答。我们最好的工具通常善于回答事实性问题,比如智力问答节目Jeopardy的冠军是Watson),或是生成3~5个词的句子,就像谷歌智能回复技术的功能一样。截止到2016年年中,我们的能力并未在此基础上提升多少。

人工智能的这一分支未来将取决于硬件发展,也取决于思维向量的发展,即能否用全新的数字形式来表示想法。(如何将语句离散化?思维的基本单位是什么?)

语义结构方面有一点应当说明。基于依赖关系和语法成分的解析是可以嵌入向量的。事实上,斯坦福康奈尔德克萨斯大学等学校目前就这一课题开展的研究都很值得关注。

理论与硬件的进步将为我们带来其他工具,帮助我们解决自然语言处理和机器概念化的问题——这正是抽象的符号逻辑与基于深度学习的机器感知(主要处理图像、声音等具体实例)之间缺失的一环。

以下是几种目前用于思维向量化的方法:

  • Doc2vec:Doc2Vec,段落向量和语句向量基本上同一个意思。它不一定会考虑词的顺序,一般用于在有标签的词的组合之间建立关联(比如用于情感分析)
  • Seq2seq双语翻译skip-thought向量

其他Deeplearning4j教程

与我们在Gitter聊天