买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：合肥君正科技有限公司

摘要：本发明提供一种WRAM放不下权重的卷积的实现方法，所述方法包括以下步骤：S1，将权重数据写入WRAM，将输入图像数据写入FRAM；S2，由于NNA的WRAM空间大小只有60KB，当权重数据大小超出60KB时，需要对权重数据进行拆解，每次只写一部分权重数据，这部分权重数据大小不超过60KB，分多次向WRAM写入权重数据；S2.1，需要计算WRAM一次能放下多少输入通道的权重数据；S2.2，根据步骤S2.1获得的结果，分多次进行NNA寄存器配置：使用NNA进行卷积加速必须正确配置NNA相关寄存器，卷积的步长、卷积核大小参数都通过NNA寄存器进行配置，这些参数都必须在NNA支持的参数范围内才能得到正确的卷积结果，启动NNA进行卷积计算，将每次得到的卷积结果进行累加就可以得到最终的卷积输出。

主权项：1.一种WRAM放不下权重的卷积的实现方法，其特征在于，所述方法包括以下步骤：S1，将权重数据写入WRAM，将输入图像数据写入FRAM；S2，由于NNA的WRAM空间大小只有60KB，当权重数据大小超出60KB时，需要对权重数据进行拆解，每次只写一部分权重数据，这部分权重数据大小不超过60KB，分多次向WRAM写入权重数据，进一步包括：S2.1，需要计算WRAM一次能放下多少输入通道的权重数据，计算公式为： loop_num＝IC+WRAM_IC-1WRAM_ICWR4M_IC_tail＝IC-1％WRAM_IC+1IC＝loop_num-1*WRAM_IC+WRAM_IC_tail其中KH为卷积核高，KW为卷积核宽，IC为卷积核输入通道数，权重数据大小为KH*KW*IC*32；WRAM_IC表示WRAM一次能放下大小为KH*KW*WRAM_IC*32的权重数据，WRAM_SIZE为60KB，loop_num表示需要分loop_num次才能将所需的权重数据全部写入WRAM，WRAM_IC_tail表示前loop_num-1次，每次向WRAM写入大小为KH*KW*WRAM_IC*32的权重数据，最后一次向WRAM写入大小为KH*KW*WRAM_IC_tail*32的权重数据；S2.2，根据步骤S2.1获得的结果，分loop_num次进行NNA寄存器配置：使用NNA进行卷积加速必须正确配置NNA相关寄存器，卷积的步长、卷积核大小参数都通过NNA寄存器进行配置，这些参数都必须在NNA支持的参数范围内才能得到正确的卷积结果，启动NNA进行卷积计算，将每次得到的卷积结果进行累加就得到最终的卷积输出；进一步包括：S2.2.1，第1次，预先在ORAM分配一段空间用于储存NNA输出数据和中间结果，将根据步骤S2.1中公式得到的大小为KH*KW*WRAM_IC*32的权重数据写入WRAM，将输入图像数据写入FRAM，通过配置NNA寄存器设置卷积核大小、pad、stride、FRAM和WRAM的读地址参数，再通过调用NNA硬件指令NNMACG启动NNA进行卷积计算，得到卷积结果输出，将该输出数据存储到预先分配好的ORAM空间里；……以此类推，前loop_num-1次，每次向WRAM写入大小为KH*KW*WRAM_IC*32的权重数据，每次都是将大小为KH*KW*WRAM_IC*32的权重数据直接写入WRAM，通过配置NNA寄存器设置卷积核大小、pad、stride、FRAM和WRAM的读地址参数，再通过调用NNA硬件指令NNMACG启动NNA进行卷积计算，得到卷积结果输出，将该输出数据存储到预先分配好的ORAM空间里；第一次将输出数据存储到ORAM预分配空间，之后每次从ORAM预分配空间取出上一次的输出数据和本次的输出数据累加，将累加结果再存入到ORAM预分配空间，每次都存入相同的空间地址，进行重新覆盖；S2.2.loop_num，第loop_num次，最后一次向WRAM写入大小为KH*KW*WRAM_IC_tail*32的权重数据，通过配置NNA寄存器设置卷积核大小、pad、stride、FRAM和WRAM的读地址参数，再通过调用NNA硬件指令NNMACG启动NNA进行卷积计算，得到卷积结果输出，将该输出数据和从ORAM预分配空间取出的输出数据进行累加得到最终的输出结果，即此时从ORAM预分配空间取出的输出数据就是前loop_num-1次输出结果的累加，再和第loop_num次的输出结果累加，就得到最终的卷积输出。

全文数据：

权利要求：

百度查询： 合肥君正科技有限公司 一种WRAM放不下权重的卷积的实现方法