首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

整型多分类概率计算电路、芯片及计算装置 

申请/专利权人:北京后摩智能科技有限公司

申请日:2023-01-05

公开(公告)日:2024-07-05

公开(公告)号:CN118297123A

主分类号:G06N3/063

分类号:G06N3/063

优先权:["20230103 CN 202310002507X"]

专利状态码:在审-公开

法律状态:2024.07.05#公开

摘要:本公开实施例公开了一种整型多分类概率计算电路、芯片及计算装置,其中,该电路包括:预设数量个差值计算单元、比例因子转换单元、预设数量个除法取整计算单元、预设数量个除法取余计算单元、预设数量个整型分类特征数据计算单元、数据累加单元和预设数量个分类数据输出单元,实现了对神经网络的权重数据、特征数据等进行全流程的整型数据计算,相比于现有的整型量化计算方法只对差值进行除法取整计算,本公开实施例在计算过程中利用除法取整计算单元和除法取余计算单元,对差值进行完整地除法计算,从而大大提高了整型多分类概率的计算精度,该电路应用在神经网络硬件加速器中,可以大大提高Transformer等神经网络运算的精度。

主权项:1.一种整型多分类概率计算电路,包括:预设数量个差值计算单元,用于计算输入的预设数量个整型量化数据中的每个整型量化数据与最大整型量化数据的差值;比例因子转换单元,用于对输入的整型量化比例因子进行转换,得到第一转换后数据、第二转换后数据和第三转换后数据;预设数量个除法取整计算单元,用于利用所述预设数量个差值计算单元各自输出的差值分别与所述第三转换后数据进行除法取整计算,得到预设数量个商值;预设数量个除法取余计算单元,用于利用所述预设数量个差值计算单元各自输出的差值分别与所述第三转换后数据进行除法取余计算,得到预设数量个余数值;预设数量个整型分类特征数据计算单元,用于利用所述预设数量个余数值、所述预设数量个商值、所述第一转换后数据、所述第二转换后数据,进行乘加及移位操作,得到预设数量个整型分类特征数据;数据累加单元,用于对所述预设数量个整型分类特征数据进行累加计算,得到累加值;预设数量个分类数据输出单元,用于对所述预设数量个整型分类特征数据中的每个整型分类特征数据与所述累加值进行除法计算,得到预设数量个整型多分类概率。

全文数据:

权利要求:

百度查询: 北京后摩智能科技有限公司 整型多分类概率计算电路、芯片及计算装置

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。