恭喜上海燧原科技股份有限公司姚建国获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网恭喜上海燧原科技股份有限公司申请的专利双稀疏矩阵的乘法加速方法、装置、设备、介质及产品获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119806639B 。
龙图腾网通过国家知识产权局官网在2025-06-20发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510308459.6,技术领域涉及:G06F9/28;该发明授权双稀疏矩阵的乘法加速方法、装置、设备、介质及产品是由姚建国;吴晨鹏;顾琦琪;石恒;张亚林设计研发完成,并于2025-03-17向国家知识产权局提交的专利申请。
本双稀疏矩阵的乘法加速方法、装置、设备、介质及产品在说明书摘要公布了:本发明公开了一种双稀疏矩阵的乘法加速方法、装置、设备、介质及产品。该方法包括:根据稀疏矩阵乘法需求,在计算芯片的全局内存中定位与第一稀疏矩阵匹配的压缩矩阵集合和第二稀疏矩阵;将压缩矩阵集合和第二稀疏矩阵,以数据分块的形式从全局内存中逐级搬运至计算芯片的硬件寄存器中;通过计算芯片的稀疏计算单元,根据硬件寄存器中分次加载的数据,逐步计算出第一稀疏矩阵和第二稀疏矩阵的乘法结果。本发明实施例的技术方案可以充分发挥计算芯片中稀疏计算单元的硬件加速性能,进而大大优化双稀疏矩阵乘法运算过程中的计算、带宽以及存储资源的开销,特别适用于混合专家模型的模型计算场景中。
本发明授权双稀疏矩阵的乘法加速方法、装置、设备、介质及产品在权利要求书中公布了:1.一种双稀疏矩阵的乘法加速方法,其特征在于,包括:根据稀疏矩阵乘法需求,在计算芯片的全局内存中定位与第一稀疏矩阵匹配的压缩矩阵集合和第二稀疏矩阵;其中,第一稀疏矩阵包含多个设定尺寸的压缩单元,每个压缩单元包含至少一个有效行和至少一个稀疏行,每个有效行包含至少一个结构化稀疏计算存储单元;各结构化稀疏计算存储单元均处于相同稀疏模式;压缩矩阵集合中包含用于存储第一稀疏矩阵中非0数据的压缩数据矩阵、用于存储第一稀疏矩阵中有效行在所属压缩单元中位置的索引矩阵,和用于存储非0数据在所属结构化稀疏计算存储单元中位置的元数据矩阵;稀疏行为全部数据均为0的矩阵行,稀疏模式为结构化稀疏计算存储单元中非0数据占全部数据的比例;将压缩矩阵集合和第二稀疏矩阵,以数据分块的形式从全局内存中逐级搬运至计算芯片的硬件寄存器中;通过计算芯片的稀疏计算单元,根据硬件寄存器中分次加载的数据,逐步计算出第一稀疏矩阵和第二稀疏矩阵的乘法结果。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人上海燧原科技股份有限公司,其通讯地址为:201306 上海市浦东新区中国(上海)自由贸易试验区临港新片区业盛路188号A-522室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。