基于深度学习的问答系统研究

摘要

描述了当前的部分问答系统,并对当前主流的应用于问答系统的深度学习理论进行研究,希望能够将当前的深度学习模型应用于问答系统研究中,提升人们获取有效信息的效率。对当下的深度学习框架经过对比分析,并在TensorFlow下,采用广泛应用于自然语言处理领域的序列到序列模型实现一种问答系统。序列到序列模型中的编码器和解码器可以采用不同的循环神经网络,文中描述了传统的循环神经网络以及该模型的改进长度时记忆网络。在实现问答系统的对话生成测试时,为了保证对话生成时输出质量并提高对话生成测试时模型的回复效果,在原有模型的基础上,采用注意力机制减少解码过程中有效信息的丢失。由于深度学习模型训练时庞大的计算量会造成内存的严重损耗,同时也为了实现生成对话的多样性,本文采用束搜索机制实现生成对话的多样性。