首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

基于自适配学习的轻量化手语翻译方法 

申请/专利权人:天津理工大学

申请日:2024-03-20

公开(公告)日:2024-07-05

公开(公告)号:CN118298346A

主分类号:G06V20/40

分类号:G06V20/40;G09B21/00;G06N3/048;G06V10/82;G06N3/096

优先权:

专利状态码:在审-实质审查的生效

法律状态:2024.08.06#实质审查的生效;2024.07.05#公开

摘要:本申请提供了一种基于自适配学习的轻量化手语翻译方法,涉及视频的机器翻译的技术领域,所述方法包括如下步骤:S1:输入手语视频并将其存储为RGB格式,通过帧采样得到视频帧,再对视频帧进行预处理操作,以获取张量格式的视频帧数据;S2:通过预训练模型提取视觉特征,以在更少参数的前提下就能得到低维特征表示;S3:通过时空适配器来捕获时序信息,并利用其分层时间推理的优点结合时空特征,以获得更精确的视觉特征;S4:利用翻译模块将视觉特征表示翻译为对应的口语句子。通过本申请可以高效利用时空信息,提高手语翻译的精度,并减少模型训练参数量。

主权项:1.一种基于自适配学习的轻量化手语翻译方法,其特征在于,所述方法包括下列步骤:S1:读入手语视频存储为RGB格式,通过帧采样处理得到视频帧,接着再对视频帧进行预处理操作,以获取所需的视频帧张量格式;S2:迁移预训练模型来指导特征提取模块提取视觉特征,以减少模型训练参数并同时获得低维特征表示;S3:输入到时序模块,通过时空适配器来捕获时序信息,并利用其分层时间推理的优点高效结合时空特征,以得到更精确的视觉特征;S4:利用Transformer将视觉特征表示翻译为对应的口语句子。

全文数据:

权利要求:

百度查询: 天津理工大学 基于自适配学习的轻量化手语翻译方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。