首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

一种基于改进的Transformer的文档伪影去除方法 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:山东浪潮科学研究院有限公司

摘要:本发明涉及OCR技术领域,具体为一种基于改进的Transformer的文档伪影去除方法,包括如下步骤:在U‑Net网络中引入SwinTransformer构成SU‑Net网络;将SU‑Net网络中的跳跃连接替换为多头交叉注意力连接;构建数据集训练改进后的SU‑Net网络;有益效果为:本发明提出的基于改进的Transformer的文档伪影去除方法,通过SU‑Net在引入多头交叉注意力模块,使得模型能够在解码器和编码器之间建立关联,并选择性地传递重要的上下文信息。这种设计允许模型更好地理解图像中的相关性,从而更有效地处理扫描文档中的关键信息。

主权项:1.一种基于改进的Transformer的文档伪影去除方法,其特征在于:所述方法包括如下步骤:S1、在U-Net网络中引入SwinTransformer构成SU-Net网络;S2、将SU-Net网络中的跳跃连接替换为多头交叉注意力连接;S3、构建数据集训练改进后的SU-Net网络;在U-Net网络中引入SwinTransformer构成SU-Net网络的操作包括:在SU-Net中,先使用3×3卷积来获得输入图像浅层特征,然后通过U-Net网络进行特征提取,将SwinTransformBlock作为基本提取模块来替换U-Net中的普通卷积层并获取高级语义信息,再使用3×3卷积来恢复重建的图;在U-Net网络中引入SwinTransformer构成SU-Net网络时,使用双重上采样模块,双重上采样模块结合双线性插值和像素重排,避免产生棋盘伪影;在步骤S2中,所述跳跃连接是指,原始U-Net网络中的跳跃连接,在U-Net中,跳跃连接是通过将编码器的特征图与解码器对应层的特征图进行连接实现的;构建数据集训练改进后的SU-Net网络时,训练模型时同时拥有包含伪影和其清晰对应物的文档;构建数据集训练改进后的SU-Net网络时,创建合成数据集,干净的真实文档来自PubLayNet数据集,数据集用于文档布局分析任务,具有多种文档结构、字体和字号,通过合成压缩错误、文字中的像素化错误和噪声构建包含伪影的对比图像。

全文数据:

权利要求:

百度查询: 山东浪潮科学研究院有限公司 一种基于改进的Transformer的文档伪影去除方法

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

相关技术
相关技术
相关技术
相关技术