首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索

一种基于哈希和LSM Tree的混合索引方法及键值存储系统 

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

申请/专利权人:华东师范大学

摘要:本发明公开了一种基于哈希和LSMTree的混合索引方法,并基于该方法构建了一个Key‑Value高吞吐量存储系统,其特点是该方法结合LSMTree索引和Hash索引的优势,通过对存储引擎的索引管理结构和非结构化数据读写任务的存储管理机制,实现存储端键值对类型数据读写性能二者兼顾的存储引擎。结合LSMTree特性和哈希索引特性,设计了一个利用LSMTree作为底层构建Hash索引下每个哈希桶的键值数据存储结构,并用Hash作为上层索引管理多LSMTree存储结构的混合索引方法。基于该方法,在LSMTree结构存储引擎LevelDB与细粒度并发哈希表上,设计了一个LSMTree与哈希索引结合的键值数据存储系统。本发明与现有技术相比,通过减小查询数据的检索范围加速传统单一LSMTree结构读取性能的同时保证一定的写入性能。

主权项:1.一种基于哈希和LSMTree的混合索引方法,其特征在于,该方法包括以下具体步骤:步骤1:针对高并发场景下细粒度加锁的哈希索引,具体为:1.1:构建哈希数据结构定义哈希表类,包含一个用于存储数据的节点数组和对应操作的方法,包括插入、查找和删除;所述节点数组作为桶数组,每个数组元素称为一个桶,用于存储多个键值对;对于哈希索引中每个哈希桶进行单独维护锁的细粒度锁机制;1.2:在步骤1.1并发哈希表中,多个哈希桶独立加锁,在每次读写时仅对哈希值定位的单个哈希桶加锁,与此同时仍然能够在其他的哈希桶上并发地执行读写操作;步骤2:基于哈希和LSMTree的混合索引,具体为:2.1:混合索引初始化;以所述哈希表作为上层索引结构,其中每个哈希桶对应一个LSMTree实例;2.2:并行实现批量数据的插入;当插入新数据时,首先使用哈希函数计算键的哈希值,确定对应的哈希桶;将数据对应的Key-Value键值对插入对应的LSMTree结构中;LSMTree结构会将新数据写入内存中的MemTable,并根据预设的条件触发合并和持久化操作,将数据写入外部存储器中的SSTable文件;2.3:并行实现批量数据的修改,维护数据的一致性;当更新数据时,首先使用哈希函数计算键的哈希值,确定对应的哈希桶;在对应的LSMTree结构中插入新版本的数据,旧版本的数据将被标记为无效,并在后续合并过程中被清理;2.4:实现数据的查找操作;当查找数据时,首先使用哈希函数计算键的哈希值,确定对应的哈希桶;在对应的LSMTree结构中进行查找操作;查找过程首先在MemTable中查找,如果未找到,则查找SSTable文件;2.5:对于哈希和LSMTree混合索引数据结构,实现数据的删除;当删除数据时,首先使用哈希函数计算键的哈希值,确定对应的哈希桶;在对应的LSMTree结构中标记该键值对为删除;LSMTree结构会在后续的合并过程中实际删除标记的数据,保持数据的一致性和完整性。

全文数据:

权利要求:

百度查询: 华东师范大学 一种基于哈希和LSM Tree的混合索引方法及键值存储系统

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。