买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：苏州亿铸智能科技有限公司

摘要：本申请公开一种张量切分方法及装置，张量切分方法包括：基于神经网络的输入数据，获取神经网络对该输入数据进行计算时的计算图以及张量数据的张量信息；根据计算图的拓扑顺序对神经网络的张量数据进行内存分配，并从计算图中获取当前节点和当前张量数据，当前张量数据的尺寸超过当前内存的可分配空间；从当前节点进行反向搜索以获取当前节点分组以及当前张量切分组，当前张量切分组包括至少2个张量数据；对当前张量切分组内的张量数据进行切分以使当前张量切分组内的切分后的张量数据的尺寸均不超过当前内存的可分配空间。本申请可以对大的张量数据进行切分以满足内存空间要求，减少对外部存储器的访问，提高计算效率。

主权项：1.一种张量切分方法，其特征在于，包括：基于神经网络的输入数据，获取神经网络对该输入数据进行计算时的计算图以及张量数据的张量信息，其中，所述计算图包括多个计算节点以及各个计算节点之间的张量数据；根据计算图的拓扑顺序对神经网络的张量数据进行内存分配，并从所述计算图中获取当前节点和当前张量数据，其中，所述当前张量数据的尺寸超过当前内存的可分配空间；从当前节点进行反向搜索以获取当前节点分组以及当前张量切分组，其中，所述当前张量切分组包括至少2个张量数据；对当前张量切分组内的张量数据进行切分以使当前张量切分组内的切分后的张量数据的尺寸均不超过当前内存的可分配空间；其中，从当前节点进行反向搜索以获取当前节点分组以及当前张量切分组包括：当神经网络具有分支结构时，从当前节点向前反向搜索至起始节点，所述起始节点为与当前节点相邻的分叉节点；从所述起始节点向后搜索至终止节点以获取当前节点分组，所述终止节点为起始节点之后分支的根节点，所述根节点为所有分支的合并节点，当前节点分组包括起始节点、终止节点以及起始节点和终止节点之间的中间节点；判断当前节点是否为起始节点或者终止节点；若当前节点为起始节点或终止节点，从当前节点分组的起始节点继续反向向前搜索以更新当前节点分组的起始节点，更新后的起始节点为当前起始节点相邻的分叉节点；从所述起始节点向后搜索至终止节点以获取当前节点分组；当当前节点不为起始节点或终止节点时，将起始节点和终止节点之间的张量数据以及终止节点的输出张量划分为当前张量切分组；重复以上步骤直至当前节点不为起始节点或终止节点。

全文数据：

权利要求：

百度查询： 苏州亿铸智能科技有限公司 张量切分方法、装置以及电子设备