首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

一种分组归一化算子的执行方法、设备及存储介质 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:北京壁仞科技开发有限公司;上海壁仞科技股份有限公司

摘要:本申请实施例提供了一种分组归一化算子的执行方法、设备及存储介质,涉及人工智能技术领域,该方法包括:针对输入张量包含的每个分组数据,从显存中加载分组数据后,不仅计算分组数据的组特征值,同时将分组数据中的多个通道数据缓存到片上高速缓存中,这样,在计算分组数据的归一化结果时,对于已经缓存在片上高速缓存中的通道数据,不需要重复从显存中加载,而是直接从片上高速缓存中读取,然后联合组特征值进行计算,获得归一化结果。由于片上高速缓存的读写速度比显存的读写速度更快,因此,通过减少从显存中重复加载数据,可有效减少对显存的访存次数,从而提高了分组归一化算子的计算效率和算子性能。

主权项:1.一种分组归一化算子的执行方法,其特征在于,包括:针对分组归一化算子的输入张量包含的多个分组数据,分别执行以下步骤:从显存中加载一个分组数据,并基于所述一个分组数据计算相应的组特征值;以及,将所述一个分组数据中的多个通道数据缓存到片上高速缓存中,所述多个通道数据为所述一个分组数据中的全部或部分通道数据;从所述片上高速缓存中读取所述多个通道数据,并基于所述组特征值和所述多个通道数据,计算所述一个分组数据的归一化结果。

全文数据:

权利要求:

百度查询: 北京壁仞科技开发有限公司 上海壁仞科技股份有限公司 一种分组归一化算子的执行方法、设备及存储介质

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。