买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：天津大学

摘要：本发明公开了一种混合粒度稀疏神经网络训练加速器及计算加速方法，包括输入缓存、权重缓存、输出缓存、行位图缓存、元素位图缓存以及稀疏计算模块；所述稀疏计算模块进一步包括一个行稀疏跳过单元和若干个稀疏卷积单元以及一个累加器；采用行、元素两级位图表示神经网络训练的不同阶段中卷积计算的输入、权重和输出的行、元素粒度的稀疏性；针对输出行位图非零标志，对输入和权重的行位图进行滑动匹配，发现并剔除包含全零行的无效一维卷积计算，实现粗粒度稀疏的利用；在执行有效一维卷积计算的过程中发现并剔除包含零值的无效乘累加计算，实现细粒度稀疏的利用。与现有技术相比，本发明能够提高神经网络训练效率，降低训练时长与能量消耗。

主权项：1.一种混合粒度稀疏神经网络训练加速器，其特征在于，包括输入缓存、权重缓存、输出缓存、行位图缓存、元素位图缓存以及稀疏计算模块；其中，多路并联的所述稀疏计算模块设置于所述输入缓存和所述输出缓存之间、且分别与所述行位图缓存、所述元素位图缓存相连；所述输入缓存，用于存储卷积计算的输入数据，并向稀疏卷积单元传输输入数据；所述权重缓存，用于存储卷积计算的权重数据，并向稀疏卷积单元传输权重数据；所述输出缓存，用于存储卷积计算的输出数据；所述行位图缓存，用于存储卷积计算输入、权重和输出的行位图，并向行稀疏跳过单元传输行位图；具体的，所述行位图缓存采用两级位图稀疏表示格式中的行位图格式；所述元素位图缓存，用于存储卷积计算输入、权重和输出的元素位图，并向稀疏卷积单元传输元素位图；具体的，所述元素位图缓存采用两级位图稀疏表示格式中的元素位图格式；每个所述稀疏计算模块，进一步包括一个行稀疏跳过单元和其服务的若干个稀疏卷积单元以及一个用于累加稀疏卷积单元结果的累加器，各所述行稀疏跳过单元与各所述稀疏卷积单元形成矩阵连接，各所述稀疏卷积单元共同连接至所述累加器，经累加器与输出缓存相连；所述稀疏计算模块用于在加速过程中完成一个输出图所对应的卷积操作；所述行稀疏跳过单元，用于识别输出行位图中的非零标志并对卷积计算输入、权重的行位图进行滑动匹配，剔除包含全零行输入、权重或输出的无效一维卷积计算，并记录有效一维卷积计算输入数据行的索引和权重行的索引；所述稀疏卷积单元，根据所述有效一维卷积计算输入数据行的索引从所述输入缓存中获取卷积计算的输入数据、根据所述权重行的索引从所述权重缓存中获取卷积计算的权重数据和从所述元素位图缓存中获取元素位图，识别输出元素位图中的非零标志并对有效一维卷积卷积计算输入、权重的元素位图进行滑动匹配，在执行有效一维卷积计算的过程中发现并剔除包含零值的无效乘累加计算，获得各所述稀疏卷积单元的卷积计算的部分和数据；所述累加器，用于将多个稀疏卷积单元的卷积计算的部分和数据进行累加，获得卷积计算的总的输出数据，并传输至输出缓存。

全文数据：

权利要求：

百度查询： 天津大学 一种混合粒度稀疏神经网络训练加速器及计算加速方法