发明名称 大数据清洗方法及装置
摘要 本发明提供了一种大数据清洗方法及装置,属于大数据整理技术领域,能够显著提高数据清洗的清洗速度和清洗效率。该大数据清洗方法包括:对清洗流程进行配置定义;对清洗流程进行解析,将清洗流程转换为Spark的原子操作;将清洗任务提交至Spark集群;由Spark集群进行数据清洗。
申请公布号 CN106294745A 申请公布日期 2017.01.04
申请号 CN201610652750.6 申请日期 2016.08.10
申请人 东方网力科技股份有限公司 发明人 赵伟伟;张丛喆
分类号 G06F17/30(2006.01)I 主分类号 G06F17/30(2006.01)I
代理机构 北京超凡志成知识产权代理事务所(普通合伙) 11371 代理人 王术兰
主权项 一种大数据清洗方法,其特征在于,包括:对清洗流程进行配置定义;对清洗流程进行解析,将清洗流程转换为Spark的原子操作;将清洗任务提交至Spark集群;由Spark集群进行数据清洗。
地址 100000 北京市朝阳区阜通东大街1号望京SOHO塔二C座26层