买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜南通大学申请的专利一种基于线性自注意力Transformer的图像分类方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN114818889B 。

龙图腾网通过国家知识产权局官网在2025-05-02发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202210386842.X，技术领域涉及：G06V10/764；该发明授权一种基于线性自注意力Transformer的图像分类方法是由王则林;徐昂;陈方宁;张玮业;刘欣珂设计研发完成，并于2022-04-13向国家知识产权局提交的专利申请。

本一种基于线性自注意力Transformer的图像分类方法在说明书摘要公布了：本发明涉及计算机视觉技术领域，具体涉及一种基于线性自注意力Transformer的图像分类方法。包含以下步骤：S1：将图片送入到第一个stage的重叠卷积编码模块，利用卷据运算将图片编码为图片令牌；S2：将图片令牌送入该stage中Transformer模块中，提取图片特征向量；S3：将提取的图片特征向量送入到下一个stage的重叠卷积编码模块，减少特征向量数量的同时增加特征向量维度；S4：重复进行S2和S3，从最后一个stage的Transformer模块中的到最终输出向量；S5：通过分类器单元将最终的输出向量转化成概率表示，完成图像分类。本发明既能够的有效的从图片中提取图片特征又显著的降低了Transformer模块的计算复杂度，又通过重叠卷积编码模块和卷积前馈神经网络模块提高模型提取的图片特征的能力。

本发明授权一种基于线性自注意力Transformer的图像分类方法在权利要求书中公布了：1.一种基于线性自注意力Transformer的图像分类方法，其特征在于，包含以下步骤：S1：将图片送入到第一个stage的重叠卷积编码模块，利用卷据运算将图片编码为图片令牌；S2：将图片令牌送入该stage中Transformer模块中，提取图片特征向量；所述S2中的Transformer模块包括局部线性自注意力模块、全局线性自注意力模块及卷积前馈神经网络；所述局部线性自注意力模块和卷积前馈神经网络构成一种捕获局部特征的Transformer层；所述全局线性自注意力模块和卷积前馈网络构成另一种捕获全局特征的Transformer层；所述捕获局部特征的Transformer层与捕获全局特征的Transformer层交替设置，先进行局部自注意力的捕捉，再进行全局注意力的捕捉；所述局部线性自注意力模块为建立在多头自注意力机制的基础上，先将输入的二维的特征向量x∈RN×d,变形为三维的特征图x∈RH×W×d,再将三维的特征图重新划分为包含M个子窗口的特征图xp∈RM×p×p×d,其中N代表特征向量的个数,d是通数,H,W是二维特征图的长和宽，即N=H×W；M代表子窗口的数量,p代表子窗口的长和宽，即M=Hp×Wp；S3：将提取的图片特征向量送入到下一个stage的重叠卷积编码模块，减少特征向量数量的同时增加特征向量维度；所述S3具体为：先将输入的二维的特征向量x∈RN×d,变形为三维的特征图x∈RH×W×d,其中N代表特征向量的个数,d是通数,H,W是三维特征图的长和宽，即N=H×W；再用重叠的patch来标记特征图,即将patch的窗口放大,使相邻的窗口重叠一半面积，并且在特征图周围填充0以保持分辨率；最后使特征向量的数量减少一半并且将特征向量的维度增加一倍；S4：重复进行S2和S3，从最后一个stage的Transformer模块中的到最终输出向量；所述S4中的特征向量会依次通过每一个stage的卷积编码模块和Transformer模块；所述每一个stage中的特征向量的尺寸都是不同的,即能够得到多尺度的特征向量；S5：通过分类器单元将最终的输出向量转化成概率表示，完成图像分类。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人南通大学，其通讯地址为：226019 江苏省南通市崇川区啬园路9号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。