首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

一种目标级跨模态图文检索方法及存储介质 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:桂林电子科技大学

摘要:本发明公开了一种目标级跨模态图文检索方法及存储介质,所述方法构建了图像‑目标信息成对数据,并在特征提取过程中将目标的位置信息集成到文本标题特征中,有效学习了图像中目标和文本的关联关系,提升了图文检索的准确性和可解释性;通过将跨模态鸿沟分布添加到图像特征中并结合鸿沟余弦损失函数最大化图像特征和目标特征的相似性,解决了图文数据的模态鸿沟问题;利用二次训练模块对错误检索数据进一步训练,获得训练完备的一种目标级跨模态图文检索模型,进一步提升了模型的性能。

主权项:1.一种目标级跨模态图文检索方法,其特征在于,所述方法包括:获取N组图像-目标信息的训练样本集合其中νi是图像样本,oi是目标信息集合,每个目标信息集合包括s组文本标题tj-二维点坐标位置集合ψj,每个二维点坐标位置集合ψj包含m个二维点,xk表示横坐标,yk表示纵坐标;构建目标级跨模态图文检索模型,利用训练样本集训练所述目标级跨模态图文检索模型;将待检索的图像或者文本标题输入到训练完备的目标级跨模态图文检索模型中,模型返回跨模态检索结果;所述目标级跨模态图文检索模型的构建包括以下步骤:1利用二维点位置映射函数将每个目标的位置信息映射为αψj,利用文本编码器编码文本标题获得特征为ηtj;2将位置信息映射和文本标题特征连接起来,输入到目标特征提取器τ·,·中进行特征学习获得目标特征3利用视觉编码器对图像进行特征学习获得图像特征vi;4将跨模态鸿沟分布p添加到图像特征vi,最终图像特征表示为5采用鸿沟余弦损失函数最大化最终图像特征vi′和目标特征的相似性,训练并获得目标级跨模态图文检索模型。

全文数据:

权利要求:

百度查询: 桂林电子科技大学 一种目标级跨模态图文检索方法及存储介质

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。