理工酷

基于Attention机制的LSTM语义模型安卓聊天机器人的实现

一、研究目标

随着智能移动设备的快速发展，移动端的用户期望更加人性化的设备使用体验以及通过自然语言与计算机沟通交流。基于来自互联网的大量短对话数据，通过计算图框架Tensorflow实现基于Encoder-Decoder的LSTM网络单元模型生成式聊天机器人，并设计一款Android客户端聊天机器人软件，结果表明移动端聊天机器人的可行性和有效性。

二、研究方法

本文对常用的检索式和生成式两种实现方式进行对比，基于主流的实现聊天机器人所采用的生成式技术框架，本文主要使用Encoder-Decoder端到端的模型，它可以对中间的词法分析、句法分析省略，并减少了对序列的过多假设和猜想，十分高效。

在实现Encoder-Decoder框架时并结合LSTM神经元网络，在此基础上添加Word Embedding词嵌入、Attention注意力机制、Beam Search集束搜索算法等，解决了信息传递、人格一致性和回答多样性问题。

三、研究结论

本文主要设计了一款智能聊天机器人软件，在智能聊天机器人的关键技术上做了一些研究，利用文本词向量表示技术和Encoder-Decoder框架下LSTM训练并生成对话。

四、目录

摘要 ABSTRACT 1 绪论   1.1 研究背景及意义   1.2 国内外研究现状   1.3 论文的主要工作 2 相关技术介绍   2.1 自然语言处理相关     2.1.1 词性标注     2.1.2 语法解析     2.1.3 语义分析   2.2 聊天机器人的关键技术   2.3 Android系统   2.4 本章小结 3 深度学习相关   3.1 神经网络概述     3.1.1 神经元模型     3.1.2 感知机与多层网络     3.1.3 反向传播算法     3.1.4 全局最小与局部极小   3.2 常见神经网络     3.2.1 卷积神经网络     3.2.2 循环神经网络   3.3 本章小结 4 Attention-Based LSTM聊天机器人模型   4.1 传统的RNN Encoder-Decoder框架   4.2 Attention-based Model思想   4.3 Attention-Based LSTM的聊天机器人模型   4.4 Dropout机制   4.5 Beam Search算法   4.6 本章小结 5 聊天机器人软件客户端开发与模型测试   5.1 软件环境   5.2 聊天机器人客户端开发     5.2.1 聊天机器人界面开发     5.2.2 聊天机器人模块开发   5.3 软件测试   5.4 语料数据   5.5 模型训练   5.6本章小结 6 总结与展望   6.1 总结   6.2 展望 致 谢 参 考 文 献

来源https://github.com/ximingxing/chatbot#speech_balloon-faq