发明名称 基于数据库的海量数据处理系统及方法
摘要 本发明提出了一种基于数据库的海量数据处理系统及方法。其中,所述系统包括:数据库,用于存储原始数据;数据采集装置,用于从所述数据库中根据设定条件抽取数据,并将所述抽取出的数据传送给数据处理装置;数据处理装置,用于根据设定的维度以奇偶轮换方式处理接收到的所述数据,并将处理后的数据传送到数据存储装置;数据存储装置,用于将接收到的所述处理后的数据分类存储。本发明所公开的基于数据库的海量数据处理系统及方法可以提高处理速度并节省存储空间,从而提升了系统的整体性能。
申请公布号 CN102479211B 申请公布日期 2014.06.25
申请号 CN201010564971.0 申请日期 2010.11.26
申请人 中国银联股份有限公司 发明人 肖勇;吴金坛;冯兴;王颖卓
分类号 G06F17/30(2006.01)I 主分类号 G06F17/30(2006.01)I
代理机构 中国专利代理(香港)有限公司 72001 代理人 李湘;高为
主权项 一种基于数据库的海量数据处理系统,所述基于数据库的海量数据处理系统包括:数据库,所述数据库用于存储原始数据;数据采集装置,所述数据采集装置用于从所述数据库中根据设定条件抽取数据,并将所述抽取出的数据传送给数据处理装置;数据处理装置,所述数据处理装置用于根据设定的维度以奇偶轮换方式处理接收到的所述数据,并将处理后的数据传送到数据存储装置;数据存储装置,所述数据存储装置用于将接收到的所述处理后的数据分类存储;其中,所述数据采集装置使用多并发方式从所述数据库抽取数据;所述数据处理装置进一步包括:短周期数据处理模块,所述短周期数据处理模块用于将每个短周期时间段内的数据存储于所述数据存储装置中以构成短周期时间段数据集合,并在下一短周期开始前将本次短周期时间段内的数据从所述数据存储装置中清除;第一中周期数据处理模块,所述第一中周期数据处理模块用于在每个奇数中周期时间段期间的每个所述短周期时间段的末端将所述短周期时间段数据集合与奇数中周期时间段累积数据集合合并,并将合并后的数据集合作为新的奇数中周期时间段累积数据集合,以及将所述新的奇数中周期时间段累积数据集合存储于所述数据存储装置中;其中,所述合并后的数据集合是所述短周期时间段数据集合与奇数中周期时间段累积数据集合的交集;所述数据处理装置进一步包括:第二中周期数据处理模块,所述第二中周期数据处理模块用于在每个偶数中周期时间段期间的每个所述短周期时间段的末端将所述短周期时间段数据集合与偶数中周期时间段累积数据集合合并,并将合并后的数据集合作为新的偶数中周期时间段累积数据集合,以及将所述新的偶数中周期时间段累积数据集合存储于所述数据存储装置中;其中,所述合并后的数据集合是所述短周期时间段数据集合与偶数中周期时间段累积数据集合的交集。
地址 200135 上海市浦东新区含笑路36号银联大厦