Document
拖动滑块完成拼图
首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

用于AI加速器集成电路的矩阵乘法计算装置及AI加速器装置 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:D-梅崔克斯公司

摘要:本实用新型涉及用于AI加速器集成电路的矩阵乘法计算装置及AI加速器装置。用于在计算加速器中压缩神经网络权重块的装置,提供了一种矩阵乘法计算装置。该装置包括存储器,存储器配置为以第一格式存储权重矩阵元素,第一格式包括比例因子和尾数块的列。第一寄存器配置为通过耦合到存储器的横杆设备接收每个权重矩阵列的比例因子,转换器配置为使用列的比例因子确定最大指数,并且第二寄存器配置为存储最大指数。此外,第一寄存器配置为接收列的尾数块,并且转换器配置为使用所有的比例因子和尾数块确定转换块。权重缓冲器接收转换块和最大指数作为第二格式的元素,第二格式被计算设备使用以确定矩阵乘法输出,这些输出被存储在输出缓冲器中。

主权项:1.一种用于AI加速器集成电路的矩阵乘法计算装置,被配置成集成电路,所述装置包括:存储器设备,所述存储器设备配置为以第一格式存储多个权重矩阵元素,所述第一格式包括多个权重矩阵列,每个权重矩阵列包括多个比例因子和多个尾数块;耦合到所述存储器设备的横杆设备;耦合到所述横杆设备的第一寄存器,所述第一寄存器配置为针对每个权重矩阵列接收所述多个比例因子和所述多个尾数块;耦合到所述横杆设备的转换器设备,所述转换器设备配置为使用所述权重矩阵列的所述多个比例因子确定每个权重矩阵列的最大指数,从而产生多个最大指数;以及所述转换器设备配置为使用所述多个矩阵权重列的所述多个比例因子和所述多个尾数块确定多个转换尾数块;耦合到所述横杆设备的第二寄存器,所述第二寄存器配置为存储所述多个最大指数;耦合到所述横杆设备的权重缓冲器设备,所述权重缓冲器设备配置为以第二格式接收所述多个权重矩阵元素,所述第二格式包括所述多个转换尾数块和所述多个最大指数;耦合到所述权重缓冲器设备的计算设备,所述计算设备配置为使用所述第二格式的所述多个权重矩阵元素确定多个矩阵乘法输出;以及耦合到所述计算设备的输出缓冲器设备,所述输出缓冲器设备配置为存储所述多个矩阵乘法输出。

全文数据:

权利要求:

百度查询: D-梅崔克斯公司 用于AI加速器集成电路的矩阵乘法计算装置及AI加速器装置

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。