龙图腾网&IPTOP
- 微信扫码登录
- 账号密码登录
- 短信登录/注册
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
申请/专利权人：百度(美国)有限责任公司
摘要：提出了自动寻找深度神经网络DNN的有效并行化策略的系统和方法。包括有效排序的顶点序列的计算图有助于在相对短的时间内计算最佳并行化策略。在各种DNN上评估并行化策略的有效性，并且将由各种实施例提出的策略的性能与数据并行、专家设计的策略和其它现有技术的方法进行比较。实验结果表明，所提出的策略优于基线数据并行策略，并取得了比专家设计的策略和现有技术的方法更好的性能。
主权项：1.一种包括一个或多个指令序列的非暂时性计算机可读介质，所述一个或多个指令序列在由至少一个处理器执行时实现训练深度神经网络DNN的步骤，所述步骤包括：通过对所述DNN的层进行并行化来获取用于训练所述DNN的有效策略；以及使用所获取的有效策略，在预定处理环境中训练所述DNN，以增加所述DNN的硬件利用率并减少所述DNN的训练时间，其中，通过对所述DNN的层进行并行化来获取用于训练所述DNN的有效策略，包括：获得顶点序列，所述顶点序列中的顶点表示所述DNN的层，所述顶点序列已根据顶点排序策略排序，使得表示所述DNN的计算图中的受限邻居集合的大小得以减小；对于每个顶点，使用递归来计算用于对所述DNN的顶点进行并行化的子策略，所述每个顶点与一个或多个根据成本函数来降低配置成本的有效配置相关联，所述成本函数与用于进行训练的所述预定处理环境的计算性能相关；以及输出具有用于所述计算图的最低成本的策略，作为用于训练所述DNN的有效策略。
全文数据：
权利要求：
百度查询： 百度(美国)有限责任公司 通过高效混合并行化减少深度神经网络训练次数
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
主营中国专利交易买卖与专利转让许可,高校科技成果推广与科技成果转化,知识产权运营管理与平台开发,科技人才专家库与科技猎头等科技服务
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号