发明名称 |
一种HBase数据库的数据管理方法及系统 |
摘要 |
本发明公开一种HBase数据库的数据管理方法及系统,管理方法包括:响应数据写入请求,生成用于在HBase数据库中保存的待存储HBase记录;将所述待存储HBase记录中所包括的内容的大小超过预设字段阈值的字段作为大字段,提取所述大字段的内容生成大字段数据块;向保存在HDFS文件系统中的容器文件写入所述大字段数据块;将所述大字段数据块在所述HDFS文件系统中的位置作为索引,将所述待存储HBase记录中的大字段的内容替换为所述索引;在HBase中保存所述待存储HBase记录。本发明可以很好地发挥HBase及HDFS的优势,而回避HBase对大字段处理的不足,以及HDFS在存储小文件时资源消耗过大的不足,较好地满足了业务的需要,在实际应用中取得了良好的效果。 |
申请公布号 |
CN103838830A |
申请公布日期 |
2014.06.04 |
申请号 |
CN201410055361.6 |
申请日期 |
2014.02.18 |
申请人 |
广东亿迅科技有限公司 |
发明人 |
钟坚;何广柏;邹国栋;张伟;王腾;石巍;赖志坚 |
分类号 |
G06F17/30(2006.01)I |
主分类号 |
G06F17/30(2006.01)I |
代理机构 |
北京邦信阳专利商标代理有限公司 11012 |
代理人 |
金玺 |
主权项 |
一种HBase数据库的数据管理方法,其特征在于,包括:响应数据写入请求,生成用于在HBase数据库中保存的待存储HBase记录;将所述待存储HBase记录中所包括的内容的大小超过预设字段阈值的字段作为大字段,提取所述大字段的内容生成大字段数据块;向保存在HDFS文件系统中的容器文件写入所述大字段数据块;将所述大字段数据块在所述HDFS文件系统中的位置作为索引,将所述待存储HBase记录中的大字段的内容替换为所述索引;在HBase中保存所述待存储HBase记录。 |
地址 |
510630 广东省广州市天河区龙口中路130号龙威广场B座 |