买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜中国科学技术大学申请的专利NCCL库的自动在线调优方法、系统、设备及存储介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119003439B 。

龙图腾网通过国家知识产权局官网在2025-02-21发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411492337.9，技术领域涉及：G06F15/173；该发明授权NCCL库的自动在线调优方法、系统、设备及存储介质是由李诚;乐之皓;许冠斌;陈胤合;金泽文设计研发完成，并于2024-10-24向国家知识产权局提交的专利申请。

本NCCL库的自动在线调优方法、系统、设备及存储介质在说明书摘要公布了：本发明公开了一种NCCL库的自动在线调优方法、系统、设备及存储介质，它们是相对应的方案，相关方案中可以在保证NCCL库的集合通信任务能正确执行的前提下，能够根据每一次配置的执行结果，进行在线的调优，不断地优化配置、提升性能、减少时间，适用于复杂的分布式通信场景下，同时不引入过多调优上的开销；并且相关方案中能够通过有效的调优过程，在巨大的搜索空间内快速地找到性能较优的配置；最终对多个集群和模型的评估表明，本发明在DNN模型训练上能够快速地收敛，同时能够保证相较于NCCL更高的性能收益。

本发明授权NCCL库的自动在线调优方法、系统、设备及存储介质在权利要求书中公布了：1.一种NCCL库的自动在线调优方法，其特征在于，包括：接收到NCCL库的集合通信任务时，查询自身的配置表获得最佳配置并执行，完成相应的NCCL库的集合通信任务，以及记录执行时间；其中，NCCL库为英伟达集合通信库；结合所述最佳配置及其执行时间更新历史表，并结合历史表启动调优过程，获得新的最佳配置；其中，调优过程中，将配置中的参数划分为与实现相关的参数，以及与计算资源分配相关的参数，以性能作为指标，选出与实现相关的参数及与计算资源分配相关的参数的最佳组合，并作为新的最佳配置；将所述新的最佳配置更新至配置表中；所述以性能作为指标，选出与实现相关的参数及与计算资源分配相关的参数的最佳组合，并作为新的最佳配置包括：将与实现相关的参数的不同组合作为不同的子空间，在每一个子空间中，使用统一的性能模型来确定与计算资源分配相关的参数的最佳组合；比较所有子空间对应的最佳组合，选择全局最佳组合，作为新的最佳配置；其中，所述在每一个子空间中，使用统一的性能模型来确定与计算资源分配相关的参数的最佳组合包括：第①步：遍历每一个子空间，如果当前子空间性能与全局性能最好值的差距超过阈值，则过滤掉当前子空间；否则，进入第②步；第②步：利用当前子空间随机生成一个配置p，并初始化当前调优的维度和方向，以及学习率，维度用来控制当前调优的配置中的参数，方向用于控制当前调优的配置中的参数增减，学习率用来控制下一步选取新的配置时调整当前维度参数的跨度；其中，所述配置p包含当前子空间以及随机生成的与计算资源分配相关的参数；第③步：调用NCCL运行时来执行配置p，获得配置p对应的执行时间，和当前子空间的最佳配置的执行时间进行比较判断；其中，若当前为首次调优，则当前子空间的最佳配置为默认配置的执行时间；若当前非首次调优，则最佳配置是已经录的当前子空间的最少执行时间对应配置；第④步：如果大于当前子空间的最佳配置的执行时间，利用配置p更新当前子空间的最佳配置，并根据更新前后带宽的差距来调整当前的学习率，生成下一个配置，并返回第③步；其中，带宽通过执行时间来计算；第⑤步：如果未大于当前子空间的最佳配置的执行时间，则调整当前的调优维度或者方向，并且重置学习率，生成下一个配置，并返回第③步；不断重复，直至达到设定的停止条件，获得当前子空间的最佳配置。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人中国科学技术大学，其通讯地址为：230026 安徽省合肥市包河区金寨路96号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。