买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:中科迈航信息技术有限公司
摘要:本申请涉及数据处理技术领域,具体涉及一种面向大模型并行处理的算力资源分配方法,该方法包括:获取每台算力设备中各历史计算任务的执行时长、计算结果、所需存储容量及每台算力设备的可存储容量;确定每台算力设备中各历史计算任务的执行效率;确定每台算力设备的长期重载运行能力;确定各计算任务的算力分配优先度,以对各计算任务分配算力资源。本申请基于计算任务和任意算力设备之间的算力分配概率,结合概率选择模型对计算任务分配算力资源,可降低算力资源分配时算力设备瘫痪的可能性,提高大模型训练的整体效率。
主权项:1.一种面向大模型并行处理的算力资源分配方法,其特征在于,该方法包括以下步骤:获取每台算力设备中各历史计算任务的执行时长、计算结果、所需存储容量及每台算力设备的可存储容量;基于每台算力设备中各历史计算任务的所需存储容量及所述可存储容量,确定每台算力设备中各历史计算任务的执行效率;每台算力设备中所需存储容量大于分割阈值,且在时间上连续的历史计算任务组成每台算力设备的长期重载组;基于每台算力设备中各长期重载组内所有历史计算任务的执行效率的变化趋势、执行时长、所需存储容量及计算结果,确定每台算力设备的长期重载运行能力;获取大模型各阶段下各计算任务的发布时间、处理开始时间、当前计算时刻及所需存储容量;基于各计算任务的发布时间、处理开始时间、当前计算时刻及所需存储容量,确定各计算任务的算力分配优先度,结合所述可存储容量及所述长期重载运行能力,以对各计算任务分配算力资源。
全文数据:
权利要求:
百度查询: 中科迈航信息技术有限公司 一种面向大模型并行处理的算力资源分配方法
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。