买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:杭州电子科技大学
摘要:本发明公开了基于前景语义增强的双路多标记时空动作检测方法。本发明首先对视频采样生成视频片段集合与背景集合,通过动作前景语义增强模块融合背景信息,获得动作前景语义增强的视频片段集合;再利用二维卷积和三维卷积神经网络获取目标边界框,并提取目标级时空特征和视频时空特征图;之后,由交互关系编码器构建目标交互关系,获得刻画交互关系的目标级运动特征;最后,通过双路动作多标记学习模块,建模动作标记之间的关系,输出动作类别。本发明不仅通过增强动作前景语义与目标动作类别建模以减少语义偏差,还通过刻画不同动作标记内在关联以缓解标记稀疏问题,同时最小化双路动作分类损失缓解正负类别不平衡的问题,提高了动作检测精度。
主权项:1.基于前景语义增强的双路多标记时空动作检测方法,其特征在于,包括以下步骤:步骤(1)构建视频预处理模块,对原始视频进行预处理,得到背景集合和视频片段集合;步骤(2)构建动作前景语义增强模块,输入为背景集合和视频片段集合,输出为动作前景语义增强的视频片段集合;步骤(3)利用二维卷积和三维卷积神经网络提取特征,输入为增强后的视频片段集合,输出为目标边界框,目标级运动特征和视频时空特征图;步骤(4)构建交互关系编码器,输入为目标级运动特征和视频时空特征图,输出为构建过交互关系后的目标级运动特征;步骤(5)构建双路动作多标记学习模块,输入为类别标记嵌入和构建过交互关系的目标级运动特征,输出为预测的动作类别;得到依次包括视频预处理模块、动作前景语义增强模块、交互关系编码器和双路动作多标记学习模块的时空动作检测模型;步骤(6)利用随机梯度下降算法对时空动作检测模型进行训练,直至模型收敛;步骤(7)获取待检测的视频序列,输入至训练完成的时空动作检测模型中,得到预测的目标边界框和动作类别概率,进而得到动作开始时间、结束时间和动作类别。
全文数据:
权利要求:
百度查询: 杭州电子科技大学 基于前景语义增强的双路多标记时空动作检测方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。