买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:广东工业大学
摘要:本申请公开了一种基于对比学习的多模态情感识别方法及装置,本申请的方案先基于获取到的样本数据进行模态情感特征提取,得到多模态情感特征数据,然后将多模态情感特征数据两两配对,得到多组正样本组和负样本组,其中,每个正样本组包括情感类别与模态类型相同的两个数据样本的单模态表示,每个负样本组为模态类型相同但情感类别不同的两个数据样本的单模态表示,再结合预设的模态内对比损失函数和细化损失函数,最大化正样本相似度和最小化负样本相似度,能够更好地捕捉模态内和模态间的动态关系,从而提升了模型对同一模态内以及不同模态间的理解和融合能力,使其能够更精准地捕捉和分类用户的情感表达。
主权项:1.一种基于对比学习的多模态情感识别方法,其特征在于,包括:获取样本情感数据,再对所述样本数据进行模态情感特征提取,得到多模态情感特征数据,所述多模态情感数据包括:视觉模态数据、语音模态数据以及文本模态数据;将所述多模态情感特征数据两两配对,得到多组正样本组和负样本组,其中,每个所述正样本组包括情感类别相同的两个数据样本的单模态表示,每个所述负样本组为情感类别不同的两个数据样本的单模态表示;将所述正样本组和负样本组输入初始的对比学习模型,再结合模态内对比损失函数和细化损失函数,训练所述对比学习模型,其中,所述模态内对比损失函数和细化损失函数的优化目标为最大化正样本相似度和最小化负样本相似度;获取待分析的情感数据,以根据从所述情感数据得到的多模态情感特征数据,通过训练好的对比学习模型对所述多模态情感特征进行处理后,结合MAE回归损失函数,得到用户情感识别结果。
全文数据:
权利要求:
百度查询: 广东工业大学 一种基于对比学习的多模态情感识别方法及装置
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。