首页 专利交易 科技果 科技人才 科技服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

一种AI服务器资源动态分配方法及系统 

申请/专利权人:河北铠沙世纪信息技术有限公司

申请日:2024-04-03

公开(公告)日:2024-06-28

公开(公告)号:CN118260081A

主分类号:G06F9/50

分类号:G06F9/50

优先权:

专利状态码:在审-公开

法律状态:2024.06.28#公开

摘要:本发明公开一种AI服务器资源动态分配方法及系统,涉及算力调度技术领域。本发明包括调度执行单元和调度执行单元,其中计算每个用户在每次对话中的指令和提示内包含的标记词以及每次对话中消耗的每个资源项目的资源量的历史记录得到每个用户在对话中的指令和提示内包含的标记词与每个资源项目的资源量的关联关系;根据用户在当前对话中的指令和持续更新的提示内包含的标记词以及用户在对话中的指令和提示内包含的标记词与每个资源项目的资源量的关联关系持续为用户在当前对话中的每个资源项目进行资源量的调度分配获取用户在当前对话中每个资源项目的调度资源量。本发明有效避免服务器资源的闲置和不足现象。

主权项:1.一种AI服务器资源动态分配方法,其特征在于,包括,获取每个用户在每次对话中的指令和提示内包含的标记词的历史记录;获取每个用户在每次所述对话中消耗的每个资源项目的资源量的历史记录;计算每个用户在每次对话中的指令和提示内包含的标记词以及每次所述对话中消耗的每个所述资源项目的所述资源量的历史记录得到每个用户在所述对话中的所述指令和所述提示内包含的所述标记词与每个所述资源项目的所述资源量的关联关系;获取用户在当前所述对话中的所述指令并持续获取所述提示;根据用户在当前所述对话中的所述指令和持续更新的所述提示内包含的所述标记词以及用户在所述对话中的所述指令和所述提示内包含的所述标记词与每个所述资源项目的所述资源量的关联关系持续为用户在当前对话中的每个所述资源项目进行所述资源量的调度分配获取用户在当前对话中每个所述资源项目的调度资源量。

全文数据:

权利要求:

百度查询: 河北铠沙世纪信息技术有限公司 一种AI服务器资源动态分配方法及系统

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。