买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
申请/专利权人:中科驭数(北京)科技有限公司
摘要:本发明提供一种基于DPU的SparkSQL查询计划树的执行管理方法及装置,针对查询任务允许DPU和CPU混合运算,提升计算性能,提升资源利用率,在自适应查询执行模式未运行时,对查询计划树进行整体部署,在算子全部符合DPU支持的类型时,优先将算子卸载至DPU运行,否则整体交由CPU处理。在自适应查询执行模式运行时,先判断当前拦截的子计划树是否具备自适应查询执行算子,若是则先判断整个查询计划树是否可卸载并标记在配置单中,若不是则查询配置单的标记并按照标记将当前子计划树交由DPU或CPU处理。这种执行管理方式针对单个查询任务整体部署,避免了引入额外的行列转换算子,以及行列转换算子带来的数据复制开销,节省资源,提升计算性能。
主权项:1.一种基于DPU的SparkSQL查询计划树的执行管理方法,其特征在于,所述方法在主机设备上运行,该方法包括以下步骤:获取和部署规则插件,所述规则插件由预设控制信号控制启停;基于所述规则插件执行对自适应查询执行模式的自检:若所述自适应查询执行模式处于未运行状态,则遍历查询计划树,基于设定标准核查组成所述查询计划树的所有算子:若存在不可卸载至数据中心处理器的目标算子,则将所述查询计划树完整交由中央处理器执行;若不存在所述目标算子,则将所述查询计划树卸载至所述数据中心处理器执行;若所述自适应查询执行模式处于运行状态,则遍历所述查询计划树,核验当前子计划树中是否存在用于标记新查询任务的自适应查询执行算子:若所述当前子计划树中存在所述自适应查询执行算子,则查找并核验完整的所述查询计划树,执行递归判断是否存在不可卸载至所述数据中心处理器的所述目标算子,并通过预设接口将所述查询计划树是否可卸载的标记写入配置单中;若所述当前子计划树中不存在所述自适应查询执行算子,则通过所述预设接口查询所述配置单获取所述标记,若所述标记为不可卸载,则将所述当前子计划树交由所述中央处理器执行;若所述标记为可卸载,则将当前子计划树卸载至所述数据中心处理器执行。
全文数据:
权利要求:
百度查询: 中科驭数(北京)科技有限公司 一种基于DPU的Spark SQL查询计划树的执行管理方法及装置
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。