买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:深圳明琪紫芯科技有限公司
摘要:本发明提供一种端侧芯片AI图像推理提速系统,在图片数据输入卷积神经网络学习之前,专门针对图片进行折叠,由此将图片分解成多个图片层,在此基础上,随着卷积神经网络的运转,在作为主体的中间处理层中的计算量将会被显著压缩,该芯片系统将大大降低成本和投入,随着计算量的显著降低,还会使卷积神经网络的学习效率得到大幅提升。
主权项:1.一种端侧芯片AI图像推理提速系统,该系统用于分析来自原始图片的图像数据,其特征在于,所述系统包括折叠模块和卷积神经网络,卷积神经网络包括卷积核和N个处理层,整数N≥4,所述N个处理层包括第一处理层、N-2个中间处理层、最终处理层,设定原始图片的形状设定为[H,W,C],其中,H为原始图片高度,W为原始图片宽度,C为原始图片通道数,卷积核的形状表示为[Kh,Kw,Ic,Oc],其中Kh表示卷积核的高度,Kw表示卷积核的宽度,Ic表示输入通道的个数,经卷积核输出的卷积输出特征图的形状表示为[IMGh,IMGw,Oc],IMGh表示卷积输出特征图的高度,IMGw表示卷积输出特征图的宽度,Oc表示卷积输出特征图的通道数,在卷积神经网络中的基准计算量的计算公式为T=2*Kh*Kw*Ic*IMGh*IMGw*Oc,原始图片被输入所述折叠模块,折叠模块将原始图片沿高度方向折叠成n等份,并将原始图片沿宽度方向折叠成m等份,从而使原始图片被分割为m*n等份,由此形成m*n个图片层,其中,整数m≥2,整数n≥2,所述m*n个图片层被输入第一处理层进行解析,在计算第一处理层的图片数据计算量时,相比于基准计算量,由于原始图片沿高度方向折叠成n等份并沿宽度方向折叠成m等份,因此在所述计算公式中,参数IMGh缩小为原来的1,参数IMGw缩小为原来的1m,但由于形成m*n个图片层,输入通道的个数Ic扩展为原来的m*n倍,因此所述m*n个图片层在第一处理层的计算量等于基准计算量T;所述m*n个图片层经第一处理层解析之后,所述m*n个图片层在第一处理层的输出通道的个数重新恢复成原始图片的输出通道个数,从而使所述m*n个图片层在进入中间处理层后的输入通道的个数等于原始图片的通道数,由于原始图片沿高度方向折叠成n等份并沿宽度方向折叠成m等份,因此在所述计算公式中,参数IMGh缩小为原来的1,参数IMGw缩小为原来的1m,因此所述m*n个图片层在中间处理层的计算量等于基准计算量T的1m*n;中间处理层的最末一层将输出通道重新恢复成原始图片的输入通道个数的m*n倍,所述m*n个图片层输入最终处理层,套用所述公式,所述m*n个图片层在最终处理层的计算量等于基准计算量T。
全文数据:
权利要求:
百度查询: 深圳明琪紫芯科技有限公司 端侧芯片AI图像推理提速系统
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。