买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:上海人工智能创新中心
摘要:本发明涉及一种无声视频拟音方法、电子设备、存储介质,方法利用注入处理后的Unet网络生成待拟音的无声视频的视频拟音,其中,注入处理包括如下步骤:针对所述无声视频和预先获取的提示词,分别进行特征提取得到视觉编码和文本编码;基于平行交叉注意力机制,将所述视觉编码和文本编码注入预先构建的Unet网络的交叉注意力层;针对所述无声视频,通过事件发生检测得到事件发生信号;通过逐层残差添加的方式,将所述事件发生信号注入所述Unet网络的解码器层。与现有技术相比,本发明具有改善音画同步、实现文本控制的拟音生成等优点。
主权项:1.一种无声视频拟音方法,其特征在于,利用注入处理后的Unet网络生成待拟音的无声视频的视频拟音,其中,所述注入处理包括如下步骤:针对所述无声视频和预先获取的提示词,分别进行特征提取得到视觉编码和文本编码;基于平行交叉注意力机制,将所述视觉编码和文本编码注入预先构建的Unet网络的交叉注意力层;针对所述无声视频,通过事件发生检测得到事件发生信号;通过逐层残差添加的方式,将所述事件发生信号注入所述Unet网络的解码器层。
全文数据:
权利要求:
百度查询: 上海人工智能创新中心 一种无声视频拟音方法、电子设备、存储介质
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。