买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜北京亿安天下科技股份有限公司申请的专利基于离网算力服务器的大模型推理调度方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119537032B 。

龙图腾网通过国家知识产权局官网在2025-05-20发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510088550.1，技术领域涉及：G06F9/50；该发明授权基于离网算力服务器的大模型推理调度方法是由李红明;苏浩设计研发完成，并于2025-01-21向国家知识产权局提交的专利申请。

本基于离网算力服务器的大模型推理调度方法在说明书摘要公布了：本发明涉及服务器调度技术领域，公开了基于离网算力服务器的大模型推理调度方法，包括以下步骤：收集离网算力服务器的硬件信息，构建服务器资源向量；将大模型推理任务分解为多个子任务，构建任务建模；根据离网服务器的硬件信息和任务依赖关系，利用优化方法进行任务划分；基于服务器当前的负载状态，对子任务进行动态任务调度；根据服务器的实时计算负载，动态迁移部分任务至其他服务器，确保服务器间的负载平衡；执行分配的任务，监测服务器的运行状态和任务完成情况，根据反馈数据动态调整任务分配策略。通过建模任务需求和服务器资源，结合实时监测和优化调度，实现了离网环境下大模型推理的高效计算和资源利用最大化。

本发明授权基于离网算力服务器的大模型推理调度方法在权利要求书中公布了：1.基于离网算力服务器的大模型推理调度方法，其特征在于，包括以下步骤：收集离网算力服务器的硬件信息，构建服务器资源向量；将大模型推理任务分解为多个子任务，构建任务建模；根据离网服务器的硬件信息和任务依赖关系，利用优化方法进行任务划分；基于服务器当前的负载状态，对子任务进行动态任务调度；根据服务器的实时计算负载，动态迁移部分任务至其他服务器，确保服务器间的负载平衡；执行分配的任务，监测服务器的运行状态和任务完成情况，根据反馈数据动态调整任务分配策略；所述任务建模包括：构建任务－资源矩阵，该矩阵的元素表示每个任务在每台服务器上所需的计算代价，所述计算代价基于任务的CPU需求、GPU需求和内存需求与服务器的可用资源计算得到；使用有向无环图描述任务间的依赖关系；所述任务划分包括：利用矩阵分解方法对任务－资源矩阵进行低秩分解，将任务划分为多个子任务集合；每个子任务集合对应一台服务器，并满足子任务集合的计算需求与服务器的可用资源相匹配；所述动态任务调度基于博弈论优化模型实现，所述博弈论优化模型包括以下内容：将每台服务器建模为博弈中的一个玩家；每个玩家的效用函数包括两个部分：子任务的计算代价和服务器当前负载与其总资源容量的比值；根据效用函数的最大化结果分配任务，设计负载均衡调整；所述负载均衡调整通过动态负载平衡模型实现，该模型根据服务器的当前负载和任务迁移代价确定任务的动态迁移策略；所述负载平衡模型利用微分动力系统建模服务器负载的动态变化，服务器负载的变化由负载衰减、自发平衡和任务迁移三部分组成，最终目标为使所有服务器的负载趋于全局平均负载。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京亿安天下科技股份有限公司，其通讯地址为：102200 北京市昌平区超前路17号1幢1至11层101-901；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。