发明名称 |
一种基于哈希环的分布式数据过滤方法 |
摘要 |
本发明涉及数据过滤技术领域,特别是一种基于哈希环的分布式数据过滤方法,包括以下步骤,步骤S101:客户端接收分布式去重集群的信息;步骤S102:客户端接口数据情况请求;步骤S103:节点接收请求;步骤S104:数据过滤块定位,根据RPC发送的分区请求,hash取余后,定位到数据的数据过滤块;步骤S105:数据返回,对应的数据块,根据过滤器键,执行数据存在判断,返回对应状态,返回数据。采用上述结构后,本发明实现多租户功能,客户端可以根据业务需求,任意添加制定的类型的过滤器;实现过滤器的持久备份恢复,避免数据丢失;由于整个集群基于一致哈希环构建,过滤集群实现线性扩展;对于同一个过滤器,会构建多个子过滤器,降低误判率。 |
申请公布号 |
CN105653629A |
申请公布日期 |
2016.06.08 |
申请号 |
CN201510995758.8 |
申请日期 |
2015.12.28 |
申请人 |
湖南蚁坊软件有限公司 |
发明人 |
曹志富 |
分类号 |
G06F17/30(2006.01)I |
主分类号 |
G06F17/30(2006.01)I |
代理机构 |
|
代理人 |
|
主权项 |
一种基于哈希环的分布式数据过滤方法,其特征在于,包括以下步骤,步骤S101:客户端接收分布式去重集群的信息;包括节点的状态和节点的Token,返回数据;步骤S102:客户端接口数据情况请求,根据一致哈希环Range分布,利用Murmur3hash数据过滤键,得到一个哈希环位置值X1,通过分布式过滤集群的range分布,计算X1所属的Range,选择对应过滤节点,利用RPC向远端节点发送请求;步骤S103:节点接收请求,根据RPC发送的过滤器要求,定位到相应的过滤器;步骤S104:数据过滤块定位,根据RPC发送的分区请求,hash取余后,定位到数据的数据过滤块;步骤S105:数据返回,对应的数据块,根据过滤器键,执行数据存在判断,返回对应状态,返回数据。 |
地址 |
410003 湖南省长沙高新区麓谷企业广场A4栋607室 |