恭喜成都梵辰科技有限公司刘佳获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网恭喜成都梵辰科技有限公司申请的专利一种分布式数据处理方法及其系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119377279B 。
龙图腾网通过国家知识产权局官网在2025-03-25发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411968082.9,技术领域涉及:G06F16/2455;该发明授权一种分布式数据处理方法及其系统是由刘佳;李万灿;李万豪;窦军华;成薇;巫家敏;李万博;杨瞿瑞设计研发完成,并于2024-12-30向国家知识产权局提交的专利申请。
本一种分布式数据处理方法及其系统在说明书摘要公布了:本发明提供一种分布式数据处理方法及其系统,涉及数据处理技术领域,包括从目标区域中收集待处理初始数据集,对待处理初始数据集进行分布式地预处理,得到第一数据集;通过空间分区树SPT对目标区域进行动态递归划分,并将第一数据集中的数据点分配至划分后的各子区域并标记,得到带有空间分区标识的第二数据集;接收实时数据流,并根据空间坐标将实时数据流动态融入第二数据集中,得到第三数据集;基于空间分区标识定位数据点在空间分区树SPT中的位置,并将处于同一子区域的第三数据集中数据点分配至同一数据处理节点上;在各个数据处理节点上,并行执行数据处理任务,随后将得到的初始结果进行聚合,以形成最终结果。
本发明授权一种分布式数据处理方法及其系统在权利要求书中公布了:1.一种分布式数据处理方法,其特征在于,所述处理方法包括以下步骤:从目标区域中收集待处理初始数据集,并利用分布式计算框架Spark对待处理初始数据集进行分布式地预处理,得到第一数据集,其中所述第一数据集包括多个数据点;所述第一数据集的具体获取过程包括:通过数据采集组件从所述目标区域中收集待处理初始数据集,其中所述待处理初始数据集包含与目标区域相关的多种类型数据;在分布式计算框架Spark的环境下,将待处理初始数据集分割成多个数据块,并在Spark的多个计算节点上执行预处理操作,以得到预处理后的第一数据集;通过空间分区树SPT对所述目标区域进行动态递归划分,并将所述第一数据集中的数据点分配至划分后的各子区域,同时添加空间分区标识,得到带有空间分区标识的第二数据集;所述第二数据集的具体获取过程包括:构建空间分区树SPT,并根据预设的划分规则通过构建的空间分区树SPT将所述目标区域细分为细粒度更小的子区域,直到满足划分停止条件;遍历第一数据集中的每个数据点,根据每个数据点的空间坐标将其逐一分配至在空间分区树SPT中定位的子区域中;在分配时,为每个分配至子区域的数据点添加空间分区标识,其中所述空间分区标识唯一且明确地表示数据点所属的子区域,并与空间分区树SPT中的叶子节点建立关联,以得到带有空间分区标识的第二数据集;接收实时数据流,并根据空间坐标将所述实时数据流动态融入所述第二数据集中,得到第三数据集;所述第三数据集的具体获取过程包括:实时捕获与目标区域相关的实时数据流,其中所述实时数据流包含动态变化的空间坐标;对捕获的实时数据流进行预处理,以确保所述实时数据流与第二数据集中的数据格式一致且空间坐标准确;根据预处理后的实时数据流中每个数据点的空间坐标,在空间分区树SPT中定位其所属的子区域;将定位后的实时数据流的每个数据点动态地插入到所述第二数据集中对应子区域的数据点集合中,同时更新空间分区树SPT中关联叶子节点的数据记录,以得到融合实时数据流的第三数据集;基于所述空间分区标识定位数据点在空间分区树SPT中的位置,并根据定位的位置将处于同一子区域的所述第三数据集中数据点分配至同一数据处理节点上;分配过程具体包括:遍历第三数据集中的每个数据点,读取其附带的空间分区标识;利用读取的空间分区标识,在空间分区树SPT中定位数据点所属的子区域,并确定处于同一子区域的数据点集合;依据预构建的数据分配映射表,将处于同一子区域的数据点集合整体分配至对应的数据处理节点上,以确保同一子区域内的数据点在同一节点上进行处理,其中所述数据分配映射表记录每个子区域与对应数据处理节点的映射关系;在各个数据处理节点上,通过分布式计算框架Spark并行执行数据处理任务,随后将得到的初始结果进行聚合,以形成最终结果;最终结果的的形成过程具体包括:在每个分配有数据点的数据处理节点上,启动分布式计算框架Spark的执行环境;根据数据处理任务的需求,编写并部署相应的Spark作业,其中每个Spark作业被设计为能够处理分配给该节点的数据点集合;并行执行多个Spark作业,并在每个Spark作业完成后,收集输出的初始结果;通过Spark的聚合机制将来自不同数据处理节点的初始结果进行合并和整合,以形成全局一致的最终结果。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人成都梵辰科技有限公司,其通讯地址为:610000 四川省成都市高新区天府四街66号2栋18层6号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。