首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

全模态词表向量及全模态解编码器的训练方法、视频生成方法及系统 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:上海岩芯数智人工智能科技有限公司

摘要:本发明提供了全模态词表向量及全模态解编码器的训练方法、视频生成方法及系统,所述训练方法包括:S1、将K种模态数据生成K个N×D的特征向量;S2、将K个N×D的特征向量按照模态分量D拼接为:N×KD的全模态向量Ze;S3、随机初始化一个S×KD的全模态词表,S4、将N×KD的全模态向量Ze中每个1×KD的第一向量zei,替换为与全模态词表C的S个第二向量中欧式距离最近的第二向量,得到N×KD的全模态词表向量Zq;S5、构建全模态解编码器,将N×KD的全模态词表向量Zq输入全模态解编码器解码,对全模态解编码器进行训练,输出重构的N×KD的新全模态向量。本发明能够更好地理解和处理多种复杂模态信息。

主权项:1.一种全模态词表向量及全模态解编码器的训练方法,其特征在于,所述训练方法包括如下方法步骤:S1、获取K种模态数据,将K种模态数据输入到各自的特征编码器中,生成K个N×D的特征向量;其中,K表示模态的数目;N表示时间维度;D表示模态分量;S2、将K个N×D的特征向量按照模态分量D拼接为:N×KD的全模态向量Ze;其中,N×KD的全模态向量Ze包括N个1×KD的第一向量zei;S3、随机初始化一个S×KD的全模态词表,其中,全模态词表C包括S个第二向量,,表示全模态词表C中第i个第二向量;S4、将N×KD的全模态向量Ze中每个1×KD的第一向量zei,替换为与全模态词表C的S个第二向量中欧式距离最近的第二向量,得到N×KD的全模态词表向量Zq;其中,N×KD的全模态词表向量Zq包括N个1×KD的第三向量zqi;S5、构建全模态解编码器,其中,全模态解编码器的输入和输出均为N×KD的向量;将步骤S4得到的N×KD的全模态词表向量Zq输入全模态解编码器解码,对全模态解编码器进行训练,输出重构的N×KD的新全模态向量。

全文数据:

权利要求:

百度查询: 上海岩芯数智人工智能科技有限公司 全模态词表向量及全模态解编码器的训练方法、视频生成方法及系统

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

相关技术
相关技术
相关技术
相关技术