买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:税友信息技术有限公司
摘要:本申请公开了分布式数据ETL任务协同处理方法、装置、设备及介质,涉及分布式数据协同加工计算技术领域,若为平级多单位任务协同处理,管理端将脚本执行及加工计算任务发送至起始单元,起始单元加工计算,根据管理端发送的数据传输任务将加工计算结果传输至平级的其他单元,其他单元关联加工计算,直至传输至终止单元完成关联加工计算,实现平级多单位任务协同处理;若为总分多单位任务协同处理,管理端将脚本执行及分单元加工计算任务发送至分单元,分单元加工计算,根据管理端发送的分单元数据传输任务将各分单元加工计算结果传输至总单元,总单元统计加工计算,实现总分多单位任务协同处理,降低分布式数据ETL任务协同处理复杂性和效率。
主权项:1.一种分布式数据ETL任务协同处理方法,其特征在于,包括:根据业务需求确定分布式数据ETL任务协同处理的类型;若所述类型为平级多单位任务协同处理,则利用管理端将脚本执行及加工计算任务发送至起始单元,以便所述起始单元基于所述脚本执行及加工计算任务进行相应的加工计算,得到加工计算结果,并根据所述管理端发送的数据传输任务将所述加工计算结果传输至平级的其他单元,以便所述其他单元基于所述加工计算结果以及所述管理端发送的关联加工计算任务进行相应的关联加工计算,直至传输至终止单元并完成关联加工计算,以实现所述起始单元、平级的其他单元以及所述终止单元之间的任务协同处理;若所述类型为总分多单位任务协同处理,则利用所述管理端将脚本执行及分单元加工计算任务发送至对应的多个分单元,以便多个所述分单元基于所述脚本执行及分单元加工计算任务分别进行相应的加工计算,以得到分单元加工计算结果,并根据所述管理端发送的分单元数据传输任务将各所述分单元加工计算结果传输至总单元,以便所述总单元基于各所述分单元加工计算结果以及所述管理端发送的统计加工计算任务进行相应的统计加工计算,以实现所述总单元与多个所述分单元之间的任务协同处理。
全文数据:
权利要求:
百度查询: 税友信息技术有限公司 分布式数据ETL任务协同处理方法、装置、设备及介质
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。