恭喜四川边缘算力科技有限公司贺强获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网恭喜四川边缘算力科技有限公司申请的专利提高GPU资源利用率的分配方法、系统、介质和程序产品获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119415272B 。
龙图腾网通过国家知识产权局官网在2025-03-25发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510018821.6,技术领域涉及:G06F9/50;该发明授权提高GPU资源利用率的分配方法、系统、介质和程序产品是由贺强设计研发完成,并于2025-01-07向国家知识产权局提交的专利申请。
本提高GPU资源利用率的分配方法、系统、介质和程序产品在说明书摘要公布了:本申请提供一种提高GPU资源利用率的分配方法、系统、介质和程序产品,涉及数据处理技术领域。该方法包括:构建混合资源池,包括按设定算力和显存颗粒度划分的已划分资源池及保留完整GPU资源单元的整块备用资源池。接着从接口端获取待处理任务,利用基于多因素机器学习训练所得的任务分析模型确定其算力规模与连续性需求数据。最后依据这些数据按预设方法从混合资源池中分配算力资源,旨在应对多样化任务需求,实现GPU资源的高效灵活分配与利用,提升整体效率。
本发明授权提高GPU资源利用率的分配方法、系统、介质和程序产品在权利要求书中公布了:1.一种提高GPU资源利用率的分配方法,应用于资源分配系统,其特征在于,所述方法包括:构建包含已划分资源池和整块备用资源池的混合资源池,所述已划分资源池是将GPU资源按照设定算力颗粒度和显存颗粒度进行划分的资源池,所述整块备用资源池是保留预设个数的完整GPU资源单元的资源池,所述设定算力颗粒度是指用于划分计算资源的最小单位,所述显存颗粒度是指结合GPU显存容量划分的显存单元大小;从接口端获取待处理任务,通过任务分析模型确定所述待处理任务需要的算力规模数据和连续性需求数据,所述任务分析模型是事先根据多个任务的输入数据特征、算法复杂度、数据处理流程和历史任务执行记录进行机器学习训练而得,所述算力规模数据是指完成所述待处理任务所需的计算能力大小,所述连续性需求数据是指任务在执行过程中对GPU资源连续占用和使用的要求程度;根据所述算力规模数据和所述连续性需求数据按照预设方法从所述已划分资源池和所述整块备用资源池中分配相应的算力资源;在根据所述算力规模数据和所述连续性需求数据按照预设方法从所述已划分资源池和所述整块备用资源池中分配相应的算力资源的步骤,具体包括:若所述待处理任务需要的所述算力规模小于设定算力阈值且所述连续性需求数据小于设定连续性程度阈值,则将所述待处理任务分配至所述已划分资源池处理;若所述待处理任务需要的所述算力规模大于设定算力阈值且所述连续性需求数据小于设定连续性程度阈值,则将所述待处理任务中算力规模超过设定算力阈值部分对应的待处理任务分配至所述整块备用资源池处理;若所述待处理任务需要的所述算力规模大于设定算力阈值且所述连续性需求数据小于设定连续性程度阈值,则将所述待处理任务中算力规模超过设定算力阈值部分对应的待处理任务分配至所述整块备用资源池处理的步骤之后,还包括:若所述待处理任务的所述连续性需求数据大于设定连续性程度阈值,则将所述待处理任务先分配至已划分资源池中进行所述待处理任务的初步计算工作;在所述整块备用资源池中搜索与所述待处理任务相匹配的完整GPU资源单元之后,暂停在所述已划分资源池中执行的任务处理工作;将任务的计算状态信息数据迁移至所述完整GPU资源单元中并恢复任务执行;在将任务的计算状态信息数据迁移至所述完整GPU资源单元中并恢复任务执行的步骤之后,还包括:实时统计所述已划分资源池和所述整块备用资源池的资源使用情况;当所述已划分资源池的使用率连续设定时长低于第一预设阈值时,将预设部分已划分资源合并后转入所述整块备用资源池;当所述整块备用资源池的使用率连续设定时长低于第二预设阈值时,将部分完整GPU资源单元按照设定算力颗粒度划分后转入所述已划分资源池;在将任务的计算状态信息数据迁移至所述完整GPU资源单元中并恢复任务执行的步骤之后,还包括:获取所述待处理任务的优先级信息;若所述混合资源池无法满足高优先级所述待处理任务需求时,则暂停所述已划分资源池中正在处理的低优先级任务;回收所述低优先级任务占用的资源,分配给所述高优先级对应的所述待处理任务;在将任务的计算状态信息数据迁移至所述完整GPU资源单元中并恢复任务执行的步骤之前,还包括:根据所述待处理任务的数据结构特点将所述待处理任务的处理状态信息数据按照统一格式进行保存;通过设定的编码机制确定数据的完整性。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人四川边缘算力科技有限公司,其通讯地址为:610000 四川省成都市中国(四川)自由贸易试验区成都高新区府城大道西段399号10栋16层1607号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。