申请/专利权人：广州云趣信息科技有限公司

申请日：2024-04-16

公开（公告）日：2024-07-05

公开（公告）号：CN118051653B

主分类号：G06F16/9032

分类号：G06F16/9032;G06F16/9035;G06F16/906

优先权：

专利状态码：有效-授权

法律状态：2024.07.05#授权;2024.06.04#实质审查的生效;2024.05.17#公开

摘要：本申请提供了基于语义关联的多模态数据检索方法、系统和介质。该方法包括：获取不同模态的待检索数据并进行语义识别，生成不同模态的语义特征数据，并进行分类生成不同类别的多模态语义特征数据簇，对用户检索数据进行语义识别，并处理获得扩展检索关键词数据，将扩展检索关键词数据与多模态语义特征数据簇进行匹配识别，获得检索结果数据，根据用户历史检索日志数据处理获得用户检索偏好模型，对检索结果数据进行跨模态语义融合，并根据所述用户检索偏好模型进行处理，获得优化语义融合结果数据并发送至用户；从而实现对多模态数据进行快速检索并精准适配用户检索需求的目的。

主权项：1.基于语义关联的多模态数据检索方法，其特征在于，包括以下步骤：获取不同模态的待检索数据并进行语义识别，生成不同模态的语义特征数据；将所述不同模态的语义特征数据进行分类，生成不同类别的多模态语义特征数据簇；获取用户检索数据并进行语义识别，根据语义识别结果处理获得扩展检索关键词数据；将所述扩展检索关键词数据与所述多模态语义特征数据簇进行匹配识别，获得检索结果数据；获取用户历史检索日志数据，根据用户历史检索日志数据处理获得用户检索偏好模型；对所述检索结果数据进行跨模态语义融合，并根据所述用户检索偏好模型进行处理，获得优化语义融合结果数据并发送至用户；所述获取不同模态的待检索数据并进行语义识别，生成不同模态的语义特征数据，包括：获取不同模态的待检索数据及其对应的模态数据；将所述模态数据输入预设语义特征提取算法库中进行匹配识别，获得适配语义特征提取算法；根据不同模态对应的所述适配语义特征提取算法分别对所述不同模态的待检索数据进行语义特征提取，生成不同模态的语义特征数据；所述将所述不同模态的语义特征数据进行分类，生成不同类别的多模态语义特征数据簇，包括：利用预设跨模态映射模型将所述不同模态的语义特征数据映射到同一语义空间中；利用预设空间距离度量算法计算所述不同模态的语义特征数据的空间距离，获得空间距离度量值；根据所述空间距离度量值对所述不同模态的语义特征数据进行分类，生成不同类别的多模态语义特征数据簇；对所述不同类别的多模态语义特征数据簇分别添加语义标签，所有语义标签集合生成多模态语义标签数据集；所述将所述扩展检索关键词数据与所述多模态语义特征数据簇进行匹配识别，获得检索结果数据，包括：利用预设多模态对比学习算法将所述扩展检索关键词数据与所述多模态语义标签数据集进行匹配识别，获得目标语义标签；将所述目标语义标签对应的所述多模态语义特征数据簇作为目标多模态语义特征数据簇；利用预设空间距离度量算法对所述目标多模态语义特征数据簇中所述不同模态的语义特征数据与所述扩展检索关键词数据的空间距离进行计算，获得检索空间距离度量值；将所述检索空间距离度量值与预设检索空间距离度量阈值进行对比，将符合阈值对比要求的检索空间距离度量值对应的所述语义特征数据作为目标语义特征数据；将所有相同模态的所述目标语义特征数据对应的所述检索空间距离度量值相加，获得检索空间距离度量综合值；将不同模态的所述目标语义特征数据对应的所述检索空间距离度量综合值进行对比；若对比结果超过预设对比结果阈值，则对所述不同模态的语义特征数据对应的所述预设检索空间距离度量阈值进行差异化调整，获得优化检索空间距离度量阈值；将所述不同模态的语义特征数据对应的所述检索空间距离度量值分别与对应所述优化检索空间距离度量阈值进行对比，将符合阈值对比要求的检索空间距离度量值对应的所述语义特征数据作为更新目标语义特征数据；将所述更新目标语义特征数据对应的所述待检索数据作为检索结果数据。

全文数据：

权利要求：

百度查询： 广州云趣信息科技有限公司 基于语义关联的多模态数据检索方法、系统和介质

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD