买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

申请/专利权人：全拓科技(杭州)股份有限公司

摘要：本发明提供一种用于大数据分析的数据质量评估分析方法，属于大数据技术领域，具体包括：基于数据集的数据标签将数据集划分至不同的数据群组，并根据不同的数据群组的数据量以及不同的数据群组的数据量的偏差情况确定数据集的基础数据质量满足要求时，根据不同的数据群组之间的原始数据的特征偏差数据确定不同的数据群组之间的临界原始数据，并根据不同的数据群组之间的临界原始数据确定不存在分辨率不满足要求的数据群组时，获取不同的数据群组的分辨率，并结合不同的数据群组的特征分布聚集度对数据集的基础数据质量进行修正得到所述数据集的数据质量评分，保证了数据质量评分的评估的准确性。

主权项：1.一种用于大数据分析的数据质量评估分析方法，其特征在于，具体包括：基于数据集的数据标签将所述数据集划分至不同的数据群组，并根据不同的数据群组的数据量以及不同的数据群组的数据量的偏差情况确定所述数据集的基础数据质量满足要求时，进入下一步骤；基于不同维度的数据特征的偏差情况确定不同的数据群组的原始数据之间的特征偏差数据，并通过所述特征偏差数据进行不同的数据群组的特征分布聚集度的确定，当不存在特征分布聚集度不满足要求的数据群组时，进入下一步骤；根据不同的数据群组之间的原始数据的特征偏差数据确定不同的数据群组之间的临界原始数据，并根据不同的数据群组之间的临界原始数据确定不存在分辨率不满足要求的数据群组时，进入下一步骤；获取不同的数据群组的分辨率，并结合不同的数据群组的特征分布聚集度对所述数据集的基础数据质量进行修正得到所述数据集的数据质量评分；确定所述数据集的基础数据质量满足要求，具体包括：根据不同的数据群组的数据量以及所述数据集的数据总量进行所述数据集的数据量评估值的确定；基于不同的数据群组的数据量的偏差情况进行所述数据集的数据量均衡度的确定；通过所述数据集的数据量均衡度以及所述数据量评估值确定所述数据集的基础数据质量，并结合预设质量阈值确定所述数据集的基础数据质量是否满足要求；结合预设质量阈值确定所述数据集的基础数据质量是否满足要求，具体包括：当所述数据集的基础数据质量小于所述预设质量阈值时，则确定所述数据集的基础数据质量不满足要求；所述数据群组的特征分布聚集度的确定的方法为：根据所述特征偏差数据进行所述数据群组的不同的原始数据之间的不同维度的数据特征的特征偏差量的确定，并根据所述特征偏差量将所述原始数据划分为不同的特征相似群组；通过不同的特征相似群组的原始数据的数量以及不同的原始数据之间的特征偏差量进行不同的特征相似群组的群组分布聚集度的确定；根据不同的特征相似群组的原始数据的不同维度的数据特征进行不同的特征相似群组的原始数据的基准数据特征的确定，并基于不同的特征相似群组的原始数据的基准数据特征之间的特征偏差量确定所述数据群组的相似群组偏差量；获取所述数据群组的原始数据的数量，并结合所述特征相似群组的群组分布聚集度以及相似群组偏差量确定所述数据群组的特征分布聚集度；所述数据群组的特征分布聚集度的取值范围在0到1之间，其中当所述数据群组的特征分布聚集度小于预设聚集度阈值时，则确定所述数据群组的特征分布聚集度不满足要求。

全文数据：

权利要求：

百度查询： 全拓科技(杭州)股份有限公司 一种用于大数据分析的数据质量评估分析方法