买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:河北地质大学
摘要:本发明属于虚拟现实领域,具体公开了一种基于多模态情感识别的虚拟环境交互系统,包括:UGUI图像界面模块、人脸检测模块、语音内容显示模块、情感状态显示模块和虚拟人物模块;情感状态显示模块包括特征提取单元、特征融合单元、特征增强单元和情感预测单元,特征提取单元分别提取图像、语音和文本的单模态特征;特征融合单元将特征提取单元所提取的三种单模态特征进行多模态融合,输出多模态融合特征;特征增强单元用于增强多模态融合特征,输出新的特征表示;情感预测单元用于根据新的特征表示输出情感识别结果。本发明能够更好地完成情感化交互过程,增加虚拟环境交互系统的沉浸性和交互性,提高用户体验。本发明适用于虚拟环境交互。
主权项:1.一种基于多模态情感识别的虚拟环境交互系统,其特征在于,包括:UGUI图像界面模块,用于构建虚拟环境,提供用户与系统交互的图形界面;人脸检测模块,用于实时检测输入视频中的人脸,并显示在UGUI图像界面模块上;语音内容显示模块,用于接收用户输入的语音,并将语音转换成文本,显示在UGUI图像界面模块上;情感状态显示模块,用于分析人脸检测模块输出的人脸图像,以及语音内容显示模块输出的语音和文本,识别用户当前的情感状态,并显示在UGUI图像界面模块;虚拟人物模块,用于构建虚拟人物,根据情感状态显示模块中不同的识别结果,虚拟人物做出相应的反馈,并显示在UGUI图像界面模块上;其中,情感状态显示模块包括特征提取单元、特征融合单元、特征增强单元和情感预测单元,特征提取单元用于分别提取图像、语音和文本的单模态特征;特征融合单元用于将特征提取单元所提取的三种单模态特征进行多模态融合,输出多模态融合特征;特征增强单元用于增强多模态融合特征,输出新的特征表示;情感预测单元用于根据新的特征表示输出情感识别结果。
全文数据:
权利要求:
百度查询: 河北地质大学 一种基于多模态情感识别的虚拟环境交互系统
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。