买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:哈尔滨工业大学
摘要:本发明提出一种稀疏矩阵乘法的NPU加速方法,属于稀疏矩阵乘法加速技术领域。本发明基于CPU+NPU的异构计算机系统架构,提出稀疏矩阵“块”压缩格式CSB和基于CSB的矩阵乘法方法。CSB可将稀疏矩阵进行列排序将非零数据集中存放,基于CSB的矩阵乘法仅对稀疏矩阵非零数据块进行运算,再通过列重排获得结果。本发明可以充分利用NPU内部矩阵单元的算力,解决经典稀疏矩阵存储格式及乘法加速方法不适合NPU处理器的问题。本发明有效提高基于NPU的智能异构计算系统稀疏矩阵乘法计算速度,以及对基于NPU的卷积神经网络模型推理计算效率起到积极作用。
主权项:1.一种稀疏矩阵乘法的NPU加速方法,其特征在于,由CPU模块和NPU模块组成异构计算系统,NPU模块作为协处理器与CPU模块相连,CPU模块用于通用计算和管理,NPU模块用于神经网络卷积层加速计算。
全文数据:
权利要求:
百度查询: 哈尔滨工业大学 一种稀疏矩阵乘法的NPU加速方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。