首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

一种基于Seq2Seq模型的情感对话生成方法 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:重庆邮电大学

摘要:本发明属于自然语言处理领域,具体涉及一种基于Seq2Seq模型的情感对话生成方法;该方法包括:获取对话数据,采用情感分类器对对话数据进行分类,得到不同情感类别的对话数据,对话数据包括提问语句和回复语句;采用指定情感类别的对话数据对对话生成模型进行训练,得到训练好的Seq2Seq模型;用户将提问内容和指定情感类别输入到训练好的Seq2Seq模型中,得到带有指定情感的回复语句;本发明引入情感指导机制和生成对抗网络对对话生成模型进行训练,极大加强了对话生成模型所生成语句的情感准确率以及保证了生成语句的质量;本发明能在提高情感准确率的情况下不降低生成语句质量,具有广阔的应用前景。

主权项:1.一种基于Seq2Seq模型的情感对话生成方法,其特征在于,包括:采用带有情感标注的语句对BERT预训练模型进行处理,得到情感分类器;获取对话数据,采用情感分类器对对话数据进行分类,得到不同情感类别的对话数据,对话数据包括提问语句和回复语句;采用指定情感类别的对话数据对Seq2Seq模型进行训练,得到训练好的Seq2Seq模型;用户将提问内容和指定情感类别输入到训练好的Seq2Seq模型中,得到带有指定情感的回复语句;其中,Seq2Seq模型包括编码器和解码器;语句情感分类器的公式为: 其中,QY表示生成语句为指定情感类别的概率,W表示第二参数矩阵,n表示语句中的词汇总数,表示生成语句的第i个单词,Vg表示普通词汇表,Ve表示情感类别e的情感词汇表,表示单词生成的概率,Embyi表示单词yi的embedding编码;对Seq2Seq模型进行训练的过程包括:S1:将提问语句的语义向量输入到编码器中,得到提问语句的隐藏状态和单元状态;得到提问语句的隐藏状态的公式为: 其中,表示编码器在t时刻的隐藏状态,表示编码器在t时刻的单元状态,Mxi表示单词xi的向量表示,ve表示情感类别的向量表示,+表示向量相加S2:将回复语句的语义向量输入到解码器中,采用注意力机制,根据提问语句的隐藏状态和单元状态,得到回复语句的隐藏状态;得到回复语句的隐藏状态的公式为: 其中,表示解码器在t时刻的隐藏状态,表示解码器在t时刻的单元状态,表示编码过程中最后一个单元状态,Myi表示单词yi的向量表示,表示通过注意力机制计算后的解码器在t-1时刻的隐藏状态;S3:根据回复语句的隐藏状态得到生成语句;S4:根据生成语句和回复语句计算生成语句质量损失;采用语句情感分类器,根据生成语句计算生成语句情感损失;根据生成语句质量损失和生成语句情感损失计算生成语句总损失,当生成语句总损失最小时,第一步训练完成;S5:采用鉴别器判断生成语句的真假并得到生成语句的得分;根据生成语句的得分,采用策略梯度算法调整生成器参数,当鉴别器将生成语句判断为真时,第二步训练完成,得到训练好的Seq2Seq模型。

全文数据:

权利要求:

百度查询: 重庆邮电大学 一种基于Seq2Seq模型的情感对话生成方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。