买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:联洋国融(北京)科技有限公司
摘要:本发明公开了一种智能化任务流编排方法和平台,本发明任务流编排方法具备高可用和高可靠性,减少了因为网络或硬件故障问题导致任务流执行失败的可能性,在集群计算资源使用较少时自动加大任务资源,提升资源利用效率的同时减少任务流执行的耗时,避免在有大量任务正在执行,集群计算资源已被占满时继续执行新的任务,防止任务资源相互挤占甚至导致资源死锁的情况,进一步提升任务流执行的稳定性;通过合理的优先级管理,任务流编排平台会自动识别耗时长的任务并尽量优先执行,避免出现木桶效应,进一步提升资源利用效率和任务流执行的耗时。支持通过可视化页面和Shell命令行多种方式提交和管理任务流,降低使用者的操作门槛,减少人工成本。
主权项:1.一种智能化任务流编排方法,其特征在于,所述方法包括:接收用户发送的目标任务流以及所述目标任务流配置;根据所述目标任务流配置,对所述目标任务流进行解析翻译,生成作业配置;根据所述作业配置对所述目标任务流进行初始化,并创建所述目标任务流对应的调度器;所述调度器对所述目标任务流的任务池、任务队列、执行器和重试队列进行初始化;所述调度器对所述目标任务流的任务池、任务队列、执行器和重试队列进行检查,并根据预设规则生成所述目标任务流优先级控制方案,按照所述优先级控制方案处理所述目标任务流,并实时生成所述目标任务流处理状态;接收用户的查询输入,展示所述目标任务流处理状态;所述接收用户发送的目标任务流以及所述目标任务流配置,包括:通过命令行客户端或web客户端接收用户发送的目标任务流以及所述目标任务流配置,其中,所述目标任务流包括创建、管理、提交和重试任务,所述目标任务流配置包括建立所述目标任务流中每个任务的处理优先级;所述调度器对所述目标任务流的任务池、任务队列、执行器和重试队列进行检查,包括:所述任务池检查包括:遍历任务池中的所有待提交任务,若任务满足提交条件,则将所述任务提交到任务队列;所述任务队列检查包括:检查所述任务队列队头的任务是否满足执行条件,若满足则将任务提交到执行器启动执行,所述调度器待到实例开始执行后再继续下面的流程,若在实例开始执行之前所述任务实例状态异常,则将所述任务提交至重试队列等待重新执行,若任务重试次数超过预设次数则所述任务处理失败;所述执行器检查包括:检查所述执行器中完成的任务状态,若任务失败,则重新将所述任务延迟提交到任务队列重新执行,若任务重试次数超过预设次数则所述任务处理失败;所述重试队列检查包括:检查所述重试队列的队头是否存在任务,若存在所述任务重新提交到任务队列;所述任务满足提交条件包括:上游节点依赖条件或自定义条件;其中,所述上游节点依赖条件为当前任务依赖的上游任务节点执行成功时,则满足提交条件;所述自定义条件为用户通过插件化的方式自定义提交条件;所述任务满足执行条件包括:集群可用资源条件或自定义条件;其中,所述集群可用资源超过任务配置的阈值时,满足执行条件;所述自定义条件为用户通过插件化的方式自定义执行条件;所述根据预设规则生成所述目标任务流优先级控制方案,按照所述优先级控制方案处理所述目标任务流中,所述优先级控制方案包括:所述任务队列负责所有待执行任务的优先级管理,具体为,用户为每个任务配置优先级和任务估算耗时,并根据所述优先级和任务估算耗时生成优先级控制方案;若未配置,调度器会为任务设置默认优先级。
全文数据:
权利要求:
百度查询: 联洋国融(北京)科技有限公司 一种智能化任务流编排方法和平台
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。