发明名称 一种基于Hbase的海量数据导入方法及装置
摘要 本发明提供了一种基于Hbase的海量数据导入方法及装置,该方法包括:生成数据导入工具,并在所述数据导入工具中实现行健的至少一种自由组合设计;利用所述数据导入工具确定待导入的目标源数据;针对每一种行健的自由组合设计,通过编排相应的任务完成对所述目标源数据的处理工作;针对处理后的输出结果,通过调用Hbase中相应的导入函数,将所述目标源数据导入到Hbase中。本发明通过生成的数据导入工具实现主键的自由组合设计,通过将主键的每一种组合设计作为数据处理的输入端,最终将数据导入到Hbase中。因此,即使查询的数据信息很大,但根据主键的组合设计在Hbase中可搜索到所有相关信息,从而能够实现增加数据查询的准确性功能。
申请公布号 CN106227803A 申请公布日期 2016.12.14
申请号 CN201610580880.3 申请日期 2016.07.21
申请人 浪潮电子信息产业股份有限公司 发明人 乔晋伟
分类号 G06F17/30(2006.01)I 主分类号 G06F17/30(2006.01)I
代理机构 济南信达专利事务所有限公司 37100 代理人 李世喆
主权项 一种基于Hbase的海量数据导入方法,其特征在于,该方法包括:生成数据导入工具,并在所述数据导入工具中实现行健的至少一种自由组合设计;利用所述数据导入工具确定待导入的目标源数据;针对每一种行健的自由组合设计,通过编排相应的任务完成对所述目标源数据的处理工作;针对处理后的输出结果,通过调用Hbase中相应的导入函数,将所述目标源数据导入到Hbase中。
地址 250100 山东省济南市高新区浪潮路1036号